Мы завели с Дагни привычку выбираться хотя бы один раз в неделю на какие-нибудь выставки либо концерты, либо спектакли. Так мы посмотрели «Дядю Ваню» в БДТ, послушали девятую симфонию Малера в исполнении Клаудио Аббадо, побывали на импрессионистах и передвижниках. Казалось, что Дагни всерьёз занялась моим воспитанием. Обычно, каждый раз как мы приходили на подобные мероприятия, она мне рассказывала, что стоит за тем или иным произведением, почему автор именно так его написал, и что он в него вкладывал. Иногда она делилась какими-то удивительными историями из личной жизни авторов, как будто была непосредственным их участником.
Параллельно с этим на работе я пытался, тайком от остальных, решить проблема Адама и Эллы. Коля написал несколько версий кода и проводил испытания. Я непосредственно участвовал в процессе. Элла успешно справлялась с отражением атак на виртуальный сайт, Адам ей помогал. Но пока они были слишком узко специализированными и не самостоятельными. Научить их общаться и учиться было сложно, но ещё сложнее было убедиться в том, чтобы их цели не противоречили здравому смыслу и нормам поведения людей ни в каком виде. Приходилось вводить очень много ограничений на их поведение. Например, однажды у Эллы родилась идея назначить награду за убийство людей, атакующих наш сайт. Слава богу, всё это происходило в симуляции, поэтому мы смогли достаточно быстро починить этот баг. Работа шла медленно и муторно. Я чувствовал, что делаю что-то не так, что мне нужен какой-то прорыв. Но в голову пока ничего конкретного не приходило.
В одну из суббот Дагни повела меня на открывшуюся международную выставку каллиграфии в Академии Художества. Хотя каллиграфией я никогда не интересовался, выставка оказалась достаточно любопытной. Там было много всего: что-то из славянского письма, какие-то японские экспонаты, книги времён семьи Романовых… Но всё это не так интересовало Дагни. Она, казалось, меня привела сюда специально, чтобы обратить моё внимание на один особенный экспонат. Мы подошли к рукописному варианту конституции России, когда Дагни оживилась и задала вопрос:
- Как ты думаешь, почему этот экспонат особенный?
Я дёргаю плечами.
- Потому что книга написана вручную?
- Потому что эта книга — это набор рекомендаций и ограничений. Посмотри на неё. Сколько сил на неё было потрачено.
Дагни присела, изучая толщину книги.
- Она, вроде бы, не очень большая, — замечаю я.
- Нет, конечно. Но за каждой строчкой, за каждой страницей стоит какой-то конкретный человек с конкретной идеей, почему нужно написать так, а не иначе.
- Разве это важно? — ухмыляюсь я. — Ты же сама говорила, что читатель важнее писателя.
- Конечно, читатель важнее! И, к слову, в России живёт много бездарных читателей… Но в данном конкретном случае я хочу обратить твоё внимание на тех серых кардиналов, которые стоят за этими страницами.
- И что же в них особенного? — не понимаю я.
- Представь, через что эти люди проходили.
Дагни смотрит на меня, не отводя взгляда и ожидая моей реакции. Я не понимаю, чего она от меня хочет. Я мотаю головой и смотрю на неё вопросительно.
- Я не говорю сейчас о тех столкновениях между президентом и верховным советом. Я говорю о людях, которые писали этот документ. Им нужно было придумать свод правил и ограничений, по которым жила бы вся страна. Задача чем-то похожа на то, что ты делаешь сейчас с Адамом и Эллой.
Я улыбаюсь. Как она так всё вывела интересно?!
- Хочешь сказать, что мне стоит взять с них пример и сделать что-то типа конституции?
Дагни качает головой и вздыхает:
- Да нет же! Ну, написали они её, и что стало? Этот свод правил сам по себе не имеет никакого смысла. Это просто набор бумаги, которым можно особенно не задумываясь подтереться! Так некоторые люди и делают, и ещё сделают в ближайшее время и ни раз.
- Я тебя не понимаю, — кажется, я теряю нить повествования. — Что ты хочешь этим всем сказать?
- Я хочу сказать, что ты можешь потратить уйму времени на написание свода законов и правил, но какова будет цена этому твоему труду, если в итоге ни Адам, ни Элла не будут их выполнять?
- Да как это они не будут выполнять?! — удивляюсь я. — Это же не то же самое. В их случае это правила жизни, их ограничители и направляющие. Ты просто не понимаешь…
Но Дагни не даёт мне договорить:
- Просто сама жизнь показывает постоянно, что никакие ограничители ей не помеха. Если твоя Элла достигнет, как ты это называешь, «супер интеллекта», то думаешь её что-то будет останавливать на пути достижения её целей?
Я задумываюсь.
- В этом есть опасность, да. Но без ограничителей она начнёт творить беспредел ещё до достижения уровня супер интеллекта.
- Почему? — только и спрашивает Дагни, как будто ожидая от меня конкретного ответа.
- Потому что её цель — защищать сайт, — практически не задумываюсь отвечаю я.
Дагни довольно улыбается и целует меня в щёку. А потом, ни говоря ни слова, идёт к следующему экспонату, с любопытством изучая его так, как будто тема наша закрыта.
- Я не понимаю! — не понимаю я и подхожу к Дагни. — Что ты этим хочешь сказать?
Она, кажется на меня не реагирует, с интересом разглядывая иероглиф на стене.
- Ты хочешь сказать, что мне нужно убрать цель у Эллы?
- Кажется, этот иероглиф означает «прут». А вместе с этим иероглифом они, должно быть, формируют слово «фокус».
- Но зачем мне тогда вообще заниматься Эллой, если у неё не будет цели? — не понимаю я, не обращая внимание на её размышления вслух.
Дагни молчит, разглядывая иероглифы.
- Да и как это возможно вообще — жить без цели?
Она неожиданно оживляется, поворачивается ко мне и улыбаясь спрашивает:
- А как же тогда ты живёшь?
- Но я-то — это совсем другое, — теряюсь в объяснениях я. — Я же не компьютерная программа, я же не спроектирован никем…
- Это очень смелое заявление, — замечает Дагни. — Откуда знаешь?
Я стою опешив и гляжу на неё.
- В каком смысле?
- Откуда ты знаешь, что ты — не часть созданного кем-то эксперимента?
- Я, конечно, не знаю, — нехотя отвечаю я, — но… Мне всегда казалось, что я сам по себе. Меня никто не создавал… А если кто-то меня и создал, то он явно это делал без каких-то конкретных на меня видов.
- Тогда почему же, создавая свою Эллу, ты пытаешься заставить её плясать под твою дудку?
Дагни довольно улыбается, видя что поставила меня в ступор, а сама продолжает прогуливаться по выставке.
Всю оставшуюся выставку я прошагал за Дагни как робот, пытаясь решить дилемму, положенную в мою голову извне. Можно ли создать искусственный интеллект без какой бы то ни было цели и надеяться на то, что он из моральных соображений будет помогать проекту? Звучит абсурдно и бредово… Но, может, сработает?