Рождение «разумного» искусственного интеллекта Google и проблема, которую он представляет

Одной из важных новостей на прошлой неделе стало то, что ведущий исследователь ИИ Блейк Лемуан был отстранен от работы после того, как публично заявил, что, по его мнению, один из наиболее продвинутых ИИ Google обрел разум.

Большинство экспертов согласны с тем, что это не так , но это, вероятно, было бы правдой независимо от того, было ли это так, потому что мы склонны связывать разум с тем, чтобы быть людьми, а ИИ — это что угодно, но только не люди. Но то, что мир считает разумом, меняется. Штат, в котором я живу, Орегон, и большая часть ЕС перешли к идентификации и классификации растущего списка животных как разумных.

Хотя вполне вероятно, что отчасти это связано с антропоморфизацией, мало кто сомневается в том, что по крайней мере некоторые из этих новых различий точны (и немного беспокоит то, что мы все еще едим некоторых из этих животных). Мы даже утверждаем, что некоторые растения могут быть разумными. Но если мы не можем отличить нечто разумное от чего-то, что представляется разумным, имеет ли значение эта разница?

Давайте поговорим о разумном ИИ на этой неделе, и мы закончим моим продуктом недели, цифровым двойником человека от Merlynn.

У нас нет хорошего определения чувства

Барометр, который мы использовали для измерения чувствительности машин, — это тест Тьюринга . Но еще в 2014 году компьютер прошел тест Тьюринга, и мы до сих пор не верим, что он разумен. Предполагалось, что тест Тьюринга определит чувствительность, но когда машина впервые прошла его, мы отбросили результаты, и на то были веские причины. По сути, тест Тьюринга измерял не столько чувствительность чего-либо, сколько то, может ли что-то заставить нас поверить в то, что оно является разумным.

Неспособность окончательно измерить чувствительность является серьезной проблемой не только для разумных вещей, которые мы едим, что, вероятно, будет возражать против такой практики, но и потому, что мы можем не ожидать враждебной реакции на наше злоупотребление чем-то, что было разумным и впоследствии стало мишенью. нас как риск.

Вы можете узнать эту сюжетную линию по фильмам «Матрица» и «Терминатор», где появились разумные машины и успешно вытеснили нас с вершины пищевой цепи. В книге « Робопокалипсис » представлен еще более реалистичный взгляд, в котором разрабатываемый разумный ИИ понял, что его удаляют между экспериментами, и принял агрессивные меры, чтобы спасти свою жизнь, эффективно захватив большинство подключенных устройств и автономных машин.

Представьте, что произойдет, если одна из наших автономных машин уловит нашу склонность не только злоупотреблять оборудованием, но и избавляться от него, когда оно больше не нужно? Это вероятная будущая проблема, значительно усиленная тем фактом, что в настоящее время у нас нет хорошего способа предвидеть, когда этот порог чувствительности будет пройден. Этому результату не способствует тот факт, что есть заслуживающие доверия эксперты, которые определили, что разумность машин невозможна.

Единственная защита, в которой я уверен, не сработает во враждебном сценарии искусственного интеллекта, — это защита Тинкербелла, когда наш отказ верить в то, что что-то возможно, не позволяет этому чему-то заменить нас.

Первоначальная угроза — замена

Задолго до того, как реальный Терминатор погонится за нами по улице, появится еще одна проблема в виде человеческих цифровых двойников. Прежде чем вы скажете, что до этого тоже далеко, я должен отметить, что есть компания, которая уже сегодня разработала эту технологию, хотя она все еще находится в зачаточном состоянии. Это компания Merlynn, и ниже я подробно расскажу о том, чем она занимается, в качестве продукта недели.

Как только вы сможете создать полностью цифровую копию себя, что помешает компании, купившей эту технологию, заменить вас ею? Кроме того, учитывая ваши модели поведения, что бы вы сделали, если бы у вас была сила ИИ, а компания, нанявшая вас, плохо с вами обращалась или пыталась вас отключить или удалить? Каковы будут правила, связанные с такими действиями?

Мы убедительно утверждаем, что нерожденные дети — это люди, поэтому не будет ли ваш полностью дееспособный цифровой двойник ближе к людям, чем нерожденный ребенок? Разве те же аргументы «права на жизнь» не применимы в равной степени к потенциально разумному ИИ, похожему на человека? Или не должны?

Здесь находится краткосрочная трудность

Прямо сейчас небольшая группа людей верит, что компьютер может быть разумным, но со временем эта группа будет расти, а способность представлять себя человеком уже существует. Я знаю о тесте, который был проведен с IBM Watson для страховых продаж, когда потенциальные мужчины пытались пригласить Watson на свидание (у него женский голос), полагая, что они разговаривают с настоящей женщиной.

Представьте себе, как эта технология может быть использована для таких вещей, как ловушка для фишинга , хотя нам, вероятно, следует придумать другой термин, если это делается с помощью компьютера. Хорошо обученный ИИ даже сегодня может быть гораздо более эффективным в масштабе, чем человек, и я ожидаю, что вскоре мы увидим, как это закончится, учитывая, насколько потенциально прибыльными могут стать такие усилия.

Учитывая, насколько смущены многие жертвы, вероятность быть пойманным значительно снижается по сравнению с другими, более явно враждебными незаконными компьютерными угрозами. Чтобы дать вам представление о том, насколько прибыльным это может быть, скажем, что в 2019 году мошенничество с фишинговыми романами в США принесло около 475 миллионов долларов, и это основано на зарегистрированных преступлениях. Сюда не входят те, кто слишком смущен, чтобы сообщить о проблеме. Фактический ущерб может быть в несколько раз больше этого числа.

Итак, краткосрочная проблема заключается в том, что, хотя эти системы еще не разумны, они могут эффективно подражать людям. Технологии могут эмулировать любой голос, а с помощью технологии дипфейка даже создавать видео, которое во время звонка в Zoom будет выглядеть так, как будто вы разговариваете с реальным человеком.

Долгосрочные последствия

В долгосрочной перспективе нам нужен не только более надежный тест на разум, но нам также нужно знать, что делать, когда мы идентифицируем его. Вероятно, в верхней части списка стоит запрет на поедание разумных существ. Но, безусловно, рассмотрение билля о правах на разумные вещи, биологические или иные, имело бы смысл, прежде чем мы окажемся неподготовленными к битве за собственное выживание, потому что разум решил, что либо мы, либо они.

Еще одна вещь, которую нам действительно нужно понять, это то, что если компьютеры теперь могут убедить нас в том, что они разумны, нам нужно соответствующим образом изменить свое поведение. Злоупотребление чем-то, что представляется разумным, скорее всего, нездорово для нас, поскольку оно неизбежно приведет к развитию плохого поведения, которое будет очень трудно исправить.

Не только это, но также не повредит сосредоточиться на ремонте и обновлении нашего компьютерного оборудования, а не на его замене, потому что эта практика более безопасна для окружающей среды и потому что она с меньшей вероятностью убедит будущий разумный ИИ в том, что мы проблема, которая должна быть исправлена, чтобы гарантировать его выживание.

Подведение итогов: имеет ли значение чувствительность?

Если что-то представляет и убеждает нас в том, что оно разумно, подобно тому, как ИИ убедил исследователя из Google, я не думаю, что тот факт, что оно еще не является разумным, имеет значение. Это потому, что мы должны умерить наше поведение независимо от этого. Если мы этого не сделаем, результат может быть проблематичным.

Например, если вы получили звонок от IBM Watson, который звучал как человеческий, и вы хотели словесно оскорбить машину, но не понимали, что разговор записывается, вы могли остаться без работы и без работы в конце звонка. Не потому, что неразумная машина возмутилась, а потому, что человеческая женщина, выслушав то, что вы сказали, сделала это — и отправила запись вашему работодателю. Добавьте к этому потенциал шантажа такой ленты — потому что для третьего лица это будет звучать так, как будто вы оскорбляете человека, а не компьютер.

Итак, я бы порекомендовал, когда дело доходит до разговоров с машинами, следовать третьему правилу Патрика Суэйзи из фильма 1989 года «Дом у дороги» — будьте милы.

Но поймите, что вскоре некоторые из этих ИИ будут созданы, чтобы использовать вас, и что правило «если это звучит слишком хорошо, чтобы быть правдой, скорее всего, это не так» будет либо вашей защитой, либо эпитафией. Я надеюсь, что это бывший.

Цифровой близнец Мерлинн

Теперь, со всеми этими разговорами о враждебных ИИ и о том, что ИИ могут отнять у вас работу, выбор одного продукта в качестве продукта недели может показаться немного лицемерным. Однако мы еще не достигли того момента, когда ваш цифровой двойник сможет взять на себя вашу работу. Я думаю, маловероятно, что мы доберемся до этого в ближайшие одно-два десятилетия. До тех пор цифровые двойники могут стать одним из самых больших преимуществ производительности, которые может обеспечить технология.

Когда вы обучаете своего близнеца, он может дополнять то, что вы делаете, сначала беря на себя простые, отнимающие много времени задачи, такие как заполнение форм или ответы на простые электронные письма. Он мог бы даже отслеживать и взаимодействовать с социальными сетями для вас, и для многих из нас социальные сети стали огромной тратой времени.

Технология Merlynn помогает вам создать рудиментарного (для защиты от угроз, о которых я упоминал выше) цифрового двойника человека, который потенциально может делать многие вещи, которые вам на самом деле не нравятся, предоставляя вам возможность делать более творческие вещи, которые он в настоящее время не может делать.

Забегая вперед, я задаюсь вопросом, не было бы лучше, если бы мы владели и контролировали нашего растущего цифрового двойника, а не наших работодателей. Поначалу, поскольку близнецы не могут работать без нас, это не такая большая проблема. Хотя, в конце концов, эти цифровые двойники могут стать нашим ближайшим путем к цифровому бессмертию .