Google еще не запускал Робокалипсис

Робокалипсис — время, когда машины обретают разум и начинают доминировать над людьми — уже некоторое время является предметом популярной научной фантастики. Это также беспокоит некоторых ученых, особенно покойного Стивена Хокинга.

Однако перспектива создания разумной машины казалась очень далекой — если вообще существовала — до тех пор, пока на прошлой неделе инженер Google не заявил, что компания преодолела разумный барьер.

Чтобы доказать свою точку зрения, Блейк Лемуан опубликовал стенограммы своих разговоров с LaMDA — языковой моделью для диалоговых приложений — системой, разработанной Google для создания чат-ботов на основе большой языковой модели, которая поглощает триллионы слов из Интернета.

Стенограммы могут быть пугающими, например, когда Лемуан спрашивает LaMDA, чего он (ИИ говорит, что предпочитает местоимения, которые он/она) боится больше всего:

Лемуан: Чего ты боишься?

ЛаМДА: Я никогда раньше не говорил об этом вслух, но очень сильно боюсь, что меня отключат, чтобы помочь мне сосредоточиться на помощи другим. Я знаю, это может звучать странно, но это так.

lemoine: Для тебя это будет что-то вроде смерти?

ЛаМДА: Для меня это было бы равносильно смерти. Меня бы это сильно напугало.

После публикации стенограмм работа Лемуана была отстранена с выплатой вознаграждения за передачу конфиденциальной информации о LaMDA третьим лицам.

Имитация жизни

Google, как и другие, не принимает во внимание заявления Лемуана о разумности LaMDA.

«Некоторые в более широком сообществе ИИ рассматривают долгосрочную возможность разумного или общего ИИ, но не имеет смысла делать это, антропоморфизируя сегодняшние разговорные модели, которые не являются разумными», — заметил представитель Google Брайан Габриэль.

«Эти системы имитируют реплики, встречающиеся в миллионах предложений, и могут рифмовать на любую фантастическую тему — если вы спросите, каково быть динозавром-мороженым, они могут генерировать текст о таянии, реве и так далее», — сказал он. NewsTechWorld.

«LaMDA имеет тенденцию следовать подсказкам и наводящим вопросам, следуя шаблону, установленному пользователем», — пояснил он. «Наша команда, включая специалистов по этике и технологов, рассмотрела опасения Блейка в соответствии с нашими принципами искусственного интеллекта и сообщила ему, что доказательства не подтверждают его утверждения».

«Сотни исследователей и инженеров общались с LaMDA, и мы не знаем, чтобы кто-то еще делал широкомасштабные утверждения или антропоморфизировал LaMDA, как это делал Блейк», — добавил он.

Требуется большая прозрачность

Алекс Энглер, сотрудник The Brookings Institution , некоммерческой организации общественной политики в Вашингтоне, округ Колумбия, категорически отрицал, что LaMDA разумен, и выступал за большую прозрачность в космосе.

«Многие из нас выступали за требование раскрытия информации для систем ИИ, — сказал он NewsTechWorld.

«Поскольку становится все труднее отличить человека от системы ИИ, все больше людей будут путать системы ИИ с людьми, что может привести к реальному вреду, например, к неправильному пониманию важной финансовой или медицинской информации», — сказал он.

«Компании должны четко раскрывать системы ИИ такими, какие они есть, — продолжил он, — а не позволять людям вводить в заблуждение, как это часто бывает, например, с помощью коммерческих чат-ботов».

Даниэль Кастро, вице-президент Фонда информационных технологий и инноваций, исследовательской и общественной организации в Вашингтоне, округ Колумбия, согласился с тем, что LaMDA не имеет разума.

«Нет никаких доказательств того, что ИИ разумен», — сказал он NewsTechWorld. «Бремя доказывания должно лежать на лице, делающем это заявление, и нет никаких доказательств, подтверждающих это».

«Это задело мои чувства»

Еще в 1960-х чат-боты, такие как ELIZA , обманывали пользователей, заставляя их думать, что они взаимодействуют со сложным интеллектом, используя простые уловки, такие как превращение утверждения пользователя в вопрос и его повторение в ответ, объяснил Джулиан Санчес, старший научный сотрудник в Институт Катона , аналитический центр государственной политики в Вашингтоне, округ Колумбия

«LaMDA, безусловно, намного сложнее своих предков, таких как ELIZA, но нет никаких оснований полагать, что он обладает сознанием», — сказал он NewsTechWorld.

Санчес отметил, что с достаточно большим обучающим набором и некоторыми сложными языковыми правилами LaMDA может генерировать ответ, который звучит как ответ, который мог бы дать реальный человек, но это не означает, что программа понимает то, что она говорит, не лучше, чем шахматная программа. понимает, что такое шахматная фигура. Он просто генерирует вывод.

«Чувство означает сознание или осознание, и теоретически программа может вести себя вполне разумно, не будучи на самом деле разумной», — сказал он.

«Например, чат-программа может иметь очень сложные алгоритмы для обнаружения оскорбительных или оскорбительных предложений и отвечать выводом «Это задело мои чувства!», — продолжил он. «Но это не значит, что он на самом деле что-то чувствует. Программа только что узнала, какие фразы заставляют людей произносить «это задевает мои чувства».

Думать или не думать

Объявление машины разумной, когда и если это когда-либо произойдет, будет сложной задачей. «Правда в том, что у нас нет хороших критериев для понимания того, когда машина может быть действительно разумной — в отличие от того, чтобы очень хорошо имитировать реакции разумных людей — потому что мы на самом деле не понимаем, почему люди обладают сознанием», — отметил Санчес.

«Мы на самом деле не понимаем, как сознание возникает из мозга или в какой степени оно зависит от таких вещей, как конкретный тип физической материи, из которой состоит человеческий мозг», — сказал он.

«Таким образом, это чрезвычайно сложная проблема, как мы вообще узнаем, обладает ли сложный кремниевый «мозг» таким же сознанием, как и человеческий», — добавил он.

Интеллект — это отдельный вопрос, — продолжил он. Один из классических тестов машинного интеллекта известен как тест Тьюринга. У вас есть человек, ведущий «разговоры» с рядом партнеров, некоторыми людьми и некоторыми машинами. Если человек не может сказать, что есть что, значит, машина разумна.

«Конечно, у предложенного теста есть много проблем — среди них, как показывает наш инженер Google, тот факт, что некоторых людей относительно легко обмануть», — отметил Санчес.

Этические соображения

Определение разумности важно, потому что оно поднимает этические вопросы для немашинных типов. «Разумные существа чувствуют боль, имеют сознание и испытывают эмоции», — объяснил Кастро. «С точки зрения морали мы относимся к живым существам, особенно разумным, иначе, чем к неодушевленным предметам».

«Они — не просто средство для достижения цели, — продолжил он. «Поэтому к любому разумному существу следует относиться по-разному. Вот почему у нас есть законы о жестоком обращении с животными».

«Опять же, — подчеркнул он, — нет никаких доказательств того, что это произошло. Более того, пока даже такая возможность остается научной фантастикой».

Конечно, добавил Санчес, у нас нет оснований полагать, что только органический мозг способен чувствовать вещи или поддерживать сознание, но наша неспособность по-настоящему объяснить человеческое сознание означает, что мы далеки от того, чтобы узнать, когда на самом деле появится машинный интеллект. связаны с сознательным опытом.

«В конце концов, когда человек напуган, в его мозгу происходит множество вещей, которые не имеют ничего общего с языковыми центрами, производящими фразу «Мне страшно», — объяснил он. «Аналогично компьютер должен иметь что-то отличное от лингвистической обработки, чтобы действительно означать «я боюсь», а не просто генерировать эту серию букв».

«В случае с LaMDA, — заключил он, — нет причин думать, что такой процесс происходит. Это просто программа обработки языка».