OpenAI Exec признает, что ИИ нуждается в регулировании

Технический директор OpenAI Мира Мурати разожгла споры по поводу государственного надзора за искусственным интеллектом в воскресенье, когда она признала в интервью журналу Time, что эту технологию необходимо регулировать.

«Для OpenAI и таких компаний, как наша, важно донести это до общественного сознания контролируемым и ответственным образом», — сказал Мурати Time. «Но мы — небольшая группа людей, и нам нужно гораздо больше информации в этой системе и гораздо больше информации, выходящей за рамки технологий — определенно регулирующие органы, правительства и все остальные».

На вопрос, может ли участие правительства на этом этапе разработки ИИ помешать инновациям, она ответила: «Еще не рано. Для всех очень важно начать участвовать, учитывая влияние, которое эти технологии будут иметь».

Поскольку рынок создает стимулы для злоупотреблений, вероятно, необходимо некоторое регулирование, соглашается Грег Стерлинг, соучредитель Near Media . , веб-сайта новостей, комментариев и анализа.

«Продуманно созданные меры сдерживания неэтичного поведения могут свести к минимуму потенциальное злоупотребление ИИ, — сказал Стерлинг NewsTechWorld, — но регулирование также может быть плохо построено и не остановить ничего из этого».

Он признал, что слишком раннее или слишком жесткое регулирование может нанести ущерб инновациям и ограничить преимущества ИИ.

«Правительства должны созвать экспертов по искусственному интеллекту и лидеров отрасли, чтобы совместно разработать основу для возможного будущего регулирования. Он также, вероятно, должен быть международным по своему охвату», — сказал Стерлинг.

Учитывайте существующие законы

Искусственный интеллект, как и многие технологии и инструменты, можно использовать для самых разных целей, объясняет Дженнифер Хаддлстон, научный сотрудник Института Катона , аналитического центра в Вашингтоне, округ Колумбия.

Многие из этих применений являются положительными, и потребители уже сталкиваются с полезными способами использования ИИ, такими как перевод в реальном времени и улучшенная навигация по трафику, продолжила она. «Прежде чем призывать к новым правилам, политики должны подумать, как существующие законы, касающиеся таких вопросов, как дискриминация, уже могут решать проблемы», — сказал Хаддлстон NewsTechWorld.

Искусственный интеллект должен регулироваться, но необходимо учитывать и то, как он уже регулируется, добавил Мейсон Корц , клинический инструктор Клиники киберправа на юридическом факультете Гарвардского университета в Кембридже, штат Массачусетс.

«У нас есть много общих правил, которые делают вещи законными или незаконными, независимо от того, кто их делает, человек или ИИ», — сказал Корц NewsTechWorld.

«Нам нужно посмотреть, как существующих законов уже достаточно для регулирования ИИ, и как они этого не делают и должны делать что-то новое и проявлять творческий подход», — сказал он.

Например, он отметил, что не существует общего положения об ответственности автономных транспортных средств. Однако, если автономное транспортное средство вызывает аварию, есть еще много областей права, к которым можно обратиться, например, закон о халатности и закон об ответственности за качество продукции. Это потенциальные способы регулирования использования ИИ, пояснил он.

Требуется легкое прикосновение

Однако Корц признал, что многие существующие правила вступают в силу постфактум. «Так что в каком-то смысле они на втором месте», — сказал он. «Но это важная мера, которую необходимо принять, пока мы разрабатываем правила».

«Мы должны стараться быть активными в регулировании, где это возможно», — добавил он. «Обращение через правовую систему происходит после причинения вреда. Было бы лучше, если бы вреда никогда не было».

Однако Марк Н. Вена, президент и главный аналитик SmartTech Research в Сан-Хосе, Калифорния, утверждает, что жесткое регулирование может подавить растущую индустрию искусственного интеллекта.

«На этом раннем этапе я не большой поклонник государственного регулирования ИИ», — сказал Вена NewsTechWorld. «ИИ может иметь много преимуществ, и вмешательство правительства может в конечном итоге задушить их».

Он утверждал, что такого удушающего воздействия на интернет удалось избежать в 1990-х годах благодаря «легкому» регулированию, такому как раздел 230 Закона о приличии в коммуникациях, который давал онлайн-платформам иммунитет от ответственности за сторонний контент, появляющийся на их веб-сайтах.

Однако Корц считает, что правительство может разумно притормозить что-то, не закрывая отрасль.

«Люди критикуют FDA за то, что оно склонно к регулятивному захвату, что им управляют фармацевтические компании, но мы все еще живем в лучшем мире, чем до FDA, когда кто угодно мог продавать что угодно и размещать что угодно на этикетке», — сказал он. .

«Есть ли хорошее решение, которое фиксирует только хорошие аспекты ИИ и останавливает все плохие? Наверное, нет, — продолжила Вена, — но какая-то структура лучше, чем никакой.

«Позволить хорошему ИИ сойтись с плохим ИИ никому не пойдет на пользу», — добавил он. «Мы не можем гарантировать, что хорошие ИИ выиграют эту битву, и сопутствующий ущерб может быть довольно значительным».

Регулирование без удушения

Есть несколько вещей, которые политики могут сделать, чтобы регулировать ИИ, не препятствуя инновациям, отмечает Даниэль Кастро, вице-президент Фонда информационных технологий и инноваций . , исследовательской и общественной организации, в Вашингтоне, округ Колумбия.

«Один из них — сосредоточиться на конкретных случаях использования», — сказал Кастро NewsTechWorld. «Например, регулирование беспилотных автомобилей должно выглядеть иначе, чем регулирование ИИ, используемого для создания музыки».

«Другое — сосредоточиться на поведении», — продолжил он. «Например, дискриминация при найме сотрудников или аренде квартир является незаконной — решение принимает человек или система ИИ, не имеет значения».

«Но политики должны быть осторожны, чтобы несправедливо не привязать ИИ к другому стандарту или не ввести правила, которые не имеют смысла для ИИ», — добавил он. «Например, некоторые требования безопасности в современных транспортных средствах, такие как рулевое колесо и зеркала заднего вида, не имеют смысла для автономных транспортных средств без пассажиров или водителей».

Vena хотела бы видеть «прозрачный» подход к регулированию.

«Я бы предпочел, чтобы правила, требующие от разработчиков ИИ и производителей контента, быть полностью прозрачными в отношении алгоритмов, которые они используют», — сказал он. «Они могут быть рассмотрены сторонней организацией, состоящей из ученых и некоторых коммерческих организаций».

«Прозрачность алгоритмов и источников контента, из которых берутся инструменты ИИ, должна способствовать балансу и смягчать злоупотребления», — заявил он.

План для наихудшего сценария

Корц отметил, что многие люди считают технологию нейтральной.

«Я не думаю, что технология нейтральна, — сказал он. «Мы должны думать о плохих актерах. Но мы также должны думать о неправильных решениях людей, которые создают эти вещи и выпускают их в мир».

«Я бы призвал всех, кто разрабатывает ИИ для конкретного случая использования, подумать не только о том, каково их предполагаемое использование, но и о том, каково наихудшее возможное использование их технологии», — заключил он.