Искусственный интеллект можно научить законодательству, правилам этики и морали, традициям и общепринятым нормам общества, однако, предоставив ему полную свободу, невозможно будет предсказать его действия. Его поведение станет не «человекоподобным», а «человеческим», со всеми вытекающими отсюда последствиями. О страхе перед роботами и эволюции ИИ в литературе и жизни Фёдор Лукьянов поговорил с литературоведом Рафаэлем Ахмедовым в интервью для передачи «Международное обозрение».
Фёдор Лукьянов: Философия Айзека Азимова, посвящённая взаимоотношениям человека и робота, по-современному – искусственного интеллекта, оптимистична. На чём основывалась его уверенность, что ИИ не станет неконтролируемым злом (то, чего так опасаются сейчас)?
Рафаэль Ахмедов: Прежде всего, страх человека перед искусственным интеллектом основан на том, что человек ассоциирует его с собой, то есть наделяет его способностью чувствовать, переживать, наслаждаться, завидовать, мечтать. Во всех произведениях, в которых ИИ наносит вред человеку, его действия объясняются тем, что ИИ «чувствовал» страх, «переживал» за себе подобных, «получал удовольствие» убивая и разрушая, «завидовал» людям, «желал» всё захватить и, как результат, «мечтал» сам стать человекоподобным и обладать всем, чем обладает человек.
Если рассматривать роботов, встречающихся нам на страницах сборника «Я, Робот» Азимова, то ни один из них не мог испытывать чувства и эмоции, а лишь выполнял те действия, на которые был запрограммирован. Здесь робот – это прежде всего помощник, ограниченный в своих действиях тремя законами робототехники. Человек же, в свою очередь, может чувствовать по отношению к роботу как страх и ненависть, так и уважение, дружбу, привязанность. Это нормально, но это никак не означает, что робот может ответить тем же – он лишь может «сделать вид», что чувствует, не более того.
Что касается контролируемости или неконтролируемости ИИ, то в рассказах сборника «Я, Робот» эти параметры зависят полностью от программного ограничения, которое создаётся людьми. И если робот, наделённый ИИ, совершает какое-либо «злое» действие, то в этом виноват именно человек, который позволил ему это совершить, изменив определённые настройки. Обвинять в этом случае ИИ – это как обвинять автомобиль в том, что он сбил человека. Таким образом, большинство роботов из сборника «Я, Робот» действительно можно считать контролируемыми и безопасными.
Проблема в том, что сегодня искусственному интеллекту выдаётся всё больше полномочий в управлении различными информационными системами, причём не только гражданского (поисковые системы Интернета, создание текстов, изображений, чатов в нейросети), но и военного назначения – многие системы ПВО, системы управления самолётами, подводными лодками активно используют ИИ.
Я имел честь беседовать с одним из видных учёных-робототехников Родни Бруксом, профессором, бывшим директором лаборатории ИИ в Массачусетском технологическом институте, который поддерживает акционистский подход к робототехнике, согласно которому поведение робота должно основываться прежде всего на сенсомоторной связи с окружающей средой, то есть действия робота регулируются тем, что он видит, слышит, осязает, и самостоятельны лишь в той мере, в которой он запрограммирован для решения той или иной задачи. Родни Брукс признаёт, что абсолютно все имеющиеся сейчас в мире версии ИИ – недоработаны.
Моё мнение, что применение ИИ всё же необходимо как элемент развития человечества в целом, однако нужно соблюсти баланс между степенью его применения и наличием достаточных знаний и навыков работы с ИИ, поскольку цена ошибки в данном случае может быть слишком высокой.
Фёдор Лукьянов: Тот, кто исполняет три закона робототехники, – по сути, лучше и моральнее, чем сами люди в отношениях друг с другом? Не делает ли это Азимова мизантропом, разочарованным в человечестве?
Рафаэль Ахмедов: Действительно, прочитав некоторые рассказы Азимова, может показаться, что писатель ставит роботов на более высокую моральную ступень, чем человека. Однако это касается только случаев применения трёх законов робототехники, которые сам писатель называл минимальным набором правил, требующим дальнейшей разработки в будущем. Так, например, практически во всех рассказах сборника «Я, Робот» описывается абсурдная ситуация, возникающая в результате недостаточной проработанности законов робототехники.
Азимов – ни в коем случае не мизантроп. Наоборот, он ярый гуманист, уверенный, что человек способен на великие свершения, что он способен развиваться, становиться лучше.
По этой причине, в некоторых произведениях Азимова проявляются элементы утопии, ведь он предлагает читателю помечтать о мире, в котором люди не убивали бы друг друга, выслушивали мнение каждого, заботились о себе и окружающих, ведь именно в этом и суть трёх законов.
Фёдор Лукьянов: От идеи, что роботы – такие же люди, только лучше, Азимов эволюционирует до уровня обобщения, что роботы – попечители человечества: «Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинён вред». Это же возводит робота на уровень (чуть ли не божественный) всечеловеческого знания – что хорошо, а что плохо.
Рафаэль Ахмедов: Здесь необходимо сделать одно замечание. Роботы из сборника рассказов «Я, Робот», относящиеся к раннему этапу творчества Азимова, – это лишь прототипы роботов, населяющих вселенную серии романов «Основание», которые относятся к более позднему этапу в творчестве писателя.
Первые фактически не обладают искусственным интеллектом, а лишь выполняют программы, внесённые в их позитронный мозг. То есть если создаются два робота, с абсолютно одинаковыми параметрами, то они остаются таковыми (одинаковыми) до окончания своей службы, если, конечно, не возникают непредвиденные чрезвычайные обстоятельства.
Роботы же из серии романов «Основание», особенно Дэниел Оливо и Жискар Ривентлов, это роботы, обладающие ИИ в полном смысле этого термина, то есть они могут самосовершенствоваться и учиться, имеют своё мнение и секреты, имеют возможность действовать согласно собственным решениям, основанным на уникальном личном опыте. И конечно, обеспокоенность и страх людей перед такими роботами уже лишены предубеждений, так они действительно обладают способностью испытывать чувства и эмоции, а значит, могут действовать как люди – то есть убивать, разрушать, уничтожать согласно своим личным мотивам и решениям. В романах «Основание» действия робота Дэниела Оливо помогли человечеству выжить, однако это не значит, что другой робот, наделённый сложным ИИ, будет действовать так же.
Кстати, озабоченность по поводу создания роботов с ИИ выражал также известный английский физик-теоретик, космолог и писатель Стивен Хокинг. Он опасался, что человечество создаст что-то такое, что превзойдёт своего создателя, возьмёт инициативу в свои руки.
Именно поэтому все современные технические системы, оснащённые ИИ, строго ограничены в своих действиях, и именно поэтому не могут считаться полноценными. В этом и проблема – полноценным ИИ станет только при полной свободе действия. ИИ можно научить законодательству, правилам этики и морали, традициям и общепринятым нормам общества, однако невозможно предсказать его действия, так как мы не знаем, посчитает ли ИИ необходимым выполнять те или иные правила в тех или иных условиях или ситуациях. То есть поведение станет не «человекоподобным», а «человеческим», со всеми вытекающими отсюда последствиями.
Авторы:
Рафаэль Ахмедов, литературовед, старший преподаватель филологического факультета Гулистанского государственного университета (Узбекистан)
Фёдор Лукьянов, главный редактор журнала «Россия в глобальной политике»
