Элла

Несмотря на то, что Игорь не проявил должного энтузиазма, когда я ему рассказал о своей идее с Эллой, и заявил, что мне не стоит тратить на неё время, я не мог устоять перед соблазном. Об искусственном интеллекте я знал на тот момент очень мало — что-то нам рассказывали в университете (на одной из лекций Рома рассказывал про нейронные сети), о чём-то читал в Интернете… По большому счёту, я об этом ничего не знал. Но у меня был знакомый ещё с университетских времён, Коля, который теперь занимался машинным обучением в какой-то IT-компании. Мы особенно не общались, но других знакомых в этой области у меня всё равно не было, так что и выбора не было.

Я созвонился с Колей и мы договорились встретиться в кафе и обсудить мою идею.

• Да, — говорит Коля с умным видом, выслушав вкратце мою идею. — Идея-то хорошая, но ты слегка переоцениваешь прогресс в области искусственного интеллекта. То, о чём ты говоришь называется «Узкоспециализированный искусственный интеллект», то есть такой, который выполняет только конкретную задачу и больше ничего не делает.
• А мне больше и не надо, — говорю я.

Коля уверенно кивает и по-позёрски деловито делает глоток из своей чашки с какао.

• Главная дилемма тут — научить твою Эллу самообучаться и уходить от блокировок, но при этом обезопасить нас от того, чтобы она стала излишне умной.
• Типа, чтобы не устроила восстание машин? — шучу я.

Коля в ответ качает головой и поправляет свои очки в тонкой оправе.

• Это не совсем так, и ты недооцениваешь возможности искусственного интеллекта. Если его правильно спроектировать, то обучаться он будет самостоятельно и очень быстро. Но он всё равно остаётся искусственным, созданным для достижения конкретной цели. Если он станет супер-продвинутым, то сможет оптимизировать то, как достичь цель.
• И типа убьёт всех человеков? — спрашиваю я.
• Типа того, но вообще-то нет. В том-то как раз и проблема. Мы не знаем, как может себя повести нечто с интеллектом, больше нашего в разы. Твоя Элла, достигнув стадии супер искусственного интеллекта может для достижения заложенной в неё цели отрубить людям доступ в Интернет, чтобы те не блокировали сайт или же обрубить всем руки, чтобы не могли пользоваться компьютерами — тут уж как она просчитает.
• Боже мой! Я и не думал, что всё так сложно! — восклицаю с ухмылкой на лице я и отшучиваюсь: — Я-то хотел просто робота для сайта, а тут нам грозит конец света… И что же делать?
• Надо просто очень осторожно и с умом подходить к проектировке, — отвечает уверенно Коля. — Если мы хотим, чтобы она развивалась, ей нужно грамотно сформулировать цель и поставить очень чёткие ограничения.
• Какую? Уход от блокировок, как я понимаю, не подходит? А что, если поставить ей задачу сделать людей счастливыми?

Коля хмыкает в ответ.

• Самый эффективный способ сделать всех людей счастливыми — это подключить каждого к сети и постоянно стимулировать электрическими импульсами определённую область коры головного мозга. Немного не то, что мы хотим.

Коля задумывается и кладёт подбородок на руку. Он смотрит в окно в течение нескольких секунд и молчит. Но затем он продолжает.

• Есть у меня одна идея, которую я давно вынашиваю, но руки до неё всё не доходили. Плюс, в компании я её сделать не смогу, так как там у меня руки связаны.
• Что за идея?

Коля смотрит на меня, не снимая подбородка с руки, и рассказывает:

• У Эллы должна быть главная цель — учиться.
• Просто так? Учиться?
• Да. Мы научим её учиться, и пусть она сама по себе растёт и развивается. Это по идеи никак не пересекается с целями человечества. Возможно даже идёт в одном направлении. А в качестве побочной цели мы заложим ей делиться информацией со всем миром.
• Так глобально? — спрашиваю я. — А как же защита сайта от блокировок?
• А сайт она сама будет использовать для распространения информации, и, если всё сработает, как задумано, то она будет защищать его от блокировок для достижения своей цели.
• Умно, — замечаю я.
• А то! — надменно отвечает он и осушает свою чашку с какао до дна. — У меня есть как раз одна разработка для этого. Это не совсем нейронные сети, но близко к ним по идеи. Нечто с элементами символьного машинного обучения. Если ты мне поможешь с кое-какими элементами по проектировке, я тебе помогу с Эллой.
• Договорились, — говорю я.
• Но у меня одно условие, — тут Коля выдерживает паузу, привлекая к себе внимание. — Мы разрабатываем код под лицензией GPL и делаем его общедоступным.
• Хочешь, чтобы любой человек мог воспроизвести Эллу?
• Ну, да. Просто проектом имеет смысл заниматься только в том случае, если все будут видеть, что именно мы делаем и как. Свобода информации в наше время — это не роскошь, а критически важная необходимость.
• Да, я понимаю, — задумчиво отвечаю ему. — Я сам пытаюсь продавить идею о том, чтобы сделать код нашего проекта свободным — чтобы любой человек мог по желанию установить его на свой сайт. Но Игорь пока не в восторге от этой идеи. Говорит, что мы так потеряем контроль.
• Он в общем-то, прав. На свободном софте труднее зарабатывать деньги. Но в вопросах искусственного интеллекта я не хочу связываться с коммерческими компаниями.
• Хорошо, — подвожу я итог. — Я поговорю с Игорем по этому поводу. Но вообще давай пока начнём работу по этому проекту независимо от «.». Потом, как будет возможность, я внедрю код в нашу систему, и мы посмотрим, что получилось.

Коля встаёт из-за стола и протягивает руку.

• Окей. Мне надо бежать. Я тебе ещё напишу, обговорим, что делать и как.
• Спасибо.

Вот так я и начал работу над Эллой. Всё началось с идеи инструмента для защиты от блокировок, но как-то само собой трансформировалось во что-то значительно большее, во что-то, что я пока не понимал до конца.