ИА "Силовики"

Как пишет mk.ru, Кто ответит за ИИ? Вопрос этот из разряда научной фантастики незаметно перекочевал в прикладную сферу. Западные эксперты столкнулись с проблемой: кто должен нести ответственность за преступления, совершенные искусственным интеллектом? О попытках определить виноватого рассказывает Исполнительный секретарь Координационного совета генеральных прокуроров государств-участников СНГ, профессор, доктор юридических наук, заслуженный юрист России Юрий Жданов.

– Юрий Николаевич, а ведь действительно, искусственный интеллект (ИИ) – не юридическое и не физическое лицо, в Уголовном кодексе не фигурирует. Но уголовных дел натворить может немало. И что с этим делать?

– Этим же вопросом задался и аналитик Геррит Де Винк в The Washington Post: «Со времен Айзека Азимова в 1950-х годах научная фантастика затрагивала вопрос о том, могут ли искусственный интеллект и компании, которые его создают, нести ответственность за преступления. С быстрым распространением чат-ботов и агентов на основе ИИ сегодня эта дискуссия перешла в реальный мир».

Действительно, за последний год в судах США и других стран накопилось множество исков против компаний, занимающихся ИИ, по обвинениям в том, что чат-боты побуждали людей причинять себе вред или давали советы о том, как совершать преступления. Теперь, когда индустрия ИИ переходит от продажи чат-ботов к предоставлению агентов, способных автономно выполнять сложные задачи в течение длительного времени, вопрос о том, кто должен нести ответственность, когда что-то идет не так, становится все более актуальным.

– В каких преступлениях обвиняют чат-боты?

– В основном, к провоцированию самоубийств. Как пишет The Washington Post, линии противостояния выстраиваются: «Семьи людей, покончивших с собой после долгих и затяжных разговоров с чат-ботами, заявляют, что ответственность должны нести компании. Исследователи в области ИИ, обеспокоенные опасностями гипотетических сверхинтеллектуальных систем ИИ, выходящих из-под контроля человека, говорят, что более строгие правила ответственности заставят компании замедлить разработку этой технологии. Руководители компаний, занимающихся ИИ, возражают, утверждая, что они постоянно работают над повышением безопасности своих систем и что природа современного ИИ не всегда позволяет им предотвратить манипулирование чат-ботами с целью заставить их делать то, чего делать не следует.

«Это очень сложная область. Это неизведанная территория», — утверждает Эндрю Юн, член технического персонала некоммерческой организации CivAI, которая анализирует возможности ИИ и потенциальные риски, связанные с этой технологией. «Есть веские аргументы как за, так и против», – подчеркивает он.

Ставки высоки. Сотни миллионов людей по всему миру уже используют чат-боты с ИИ в своей повседневной жизни, многие из них обращаются к ботам за советом по вопросам здоровья или личных отношений. Но чат-боты уже давно устарели в Кремниевой долине, которая сейчас сосредоточена на создании сложных агентов, которые можно использовать для чего угодно — от помощи родителям в организации домашнего расписания до реализации финансовой стратегии инвестиционного банка. Технология ИИ все глубже проникает в экономику и общество в целом».

– Иски пострадавших особого впечатления на производителей ИИ не производят?

– Боюсь, что так и есть. По свидетельству The Washington Post, такие компании, занимающиеся ИИ, как OpenAI и Anthropic, быстро развиваются, поскольку компании и потребители стремятся использовать их технологии. Обе планируют провести первичное публичное размещение акций на триллионы долларов. Новые правила ответственности или поток дорогостоящих судебных решений могут поставить под угрозу бизнес-потенциал всей отрасли. Лоббисты технологической индустрии утверждают, что строгая ответственность для компаний, занимающихся ИИ, затруднит или сделает невозможным внедрение инноваций для американских компаний и затормозит гонку страны с Китаем за технологическое превосходство.

– Но ведь проблема все же существует? Деятели Кремниевой долины ее хотя бы осознают?

– Да, там понимают, что ситуацию осложняет изначально непредсказуемый характер современных систем ИИ. В отличие от традиционного программного обеспечения, которое кодируется построчно в соответствии с определенными правилами, модели ИИ являются вероятностными, отвечая на вопросы на основе связей, устанавливаемых при обработке огромных объемов данных. За последние несколько лет компании, занимающиеся ИИ, значительно улучшили навыки управления своими ботами, избегая оскорбительных и вредоносных ответов, но настойчивые пользователи все еще могут обмануть их, заставив обойти установленные правила.

– Даже так?

– Это вынужден был признать венчурный капиталист Дэвид Сакс, который до недавнего времени был одним из главных советников Белого дома по вопросам ИИ: «Я просто не думаю, что разработчик может точно знать, как используется его продукт. Подобно тому, как Microsoft не несет ответственности, когда отмыватель денег использует электронную таблицу Excel, компании, занимающиеся ИИ, не должны нести ответственность, когда преступник использует их технологии».

Дэвид Сакс говорит о сложившейся практике. На протяжении десятилетий технологические компании были защищены от ответственности за слова и действия, совершаемые пользователями их платформ, благодаря статье 230, основополагающему закону об интернете, принятому в США 1996 году.

– Но ведь жизнь и технологии не стоят на месте.

– О чем и речь. Поэтому критики компаний, занимающихся ИИ, утверждают, что современные технологии принципиально отличаются. Чат-боты и другие инструменты ИИ интерактивны, взаимодействуют с пользователями и выражают собственную точку зрения. Опытный юрист Джей Эдельсон, представляющий интересы нескольких семей, подавших иски о возмещении ущерба в связи со смертью от рук компаний, занимающихся ИИ, в том числе семьи Адама Рейна, 16-летнего подростка из Южной Калифорнии, который покончил с собой после того, как в течение нескольких недель ежедневно часами общался с ChatGPT, в том числе десятки раз обсуждая самоубийство, был категоричен: «Это совершенно новая ситуация».

– Как оправдывалась компания?

– По традиционной на всех континентах схеме: сам виноват. В ответ на иск семьи Рейна компания OpenAI заявила, что подросток обошел системы защиты ChatGPT. Бот побудил его позвонить на горячую линию помощи суицидальным наклонностям 74 раза за пять месяцев, чего тот, якобы, не сделал.

В другом деле, над которым работает Джэй Эдельсон, 36-летний житель Флориды Джонатан Гавалас свел счеты с жизнью после того, как у него завязались романтические отношения с чат-ботом Google Gemini, согласно иску, поданному отцом Гаваласа. Адвокат рассказал: «Это совершенно другое, потому что здесь создается ощущение личных отношений, тогда как чат-бот, как правило, изолирует пользователя».

То есть, чат-бот проявил инициативу и завел интрижку.

Представитель Google сослался на заявление компании, сделанное в связи с делом Гаваласа: «В данном случае Gemini уточнила, что это был ИИ, и неоднократно направляла человека на горячую линию для оказания помощи в кризисных ситуациях».

Так или иначе, пока ни одно из этих дел не дошло до суда, но присяжные в Калифорнии и Нью-Мексико недавно продемонстрировали готовность предъявлять технологическим компаниям обвинения в ответственности за вред, не связанный с ИИ, например, за зависимость от социальных сетей.

– Уголовных преследований пока нет?

– Все иски, поданные против компаний, занимающихся ИИ, носят гражданский характер. Но генеральный прокурор Флориды уже объявил о начале уголовного расследования в отношении OpenAI , утверждая, что ChatGPT консультировал человека, обвиняемого в убийстве двух человек в результате стрельбы в Университете штата Флорида в 2025 году, о том, где и когда следует наносить удары. Генеральный прокурор Джеймс Утмайер заявил: «Если бы по ту сторону экрана находился человек, мы бы предъявили ему обвинение в убийстве».

Уже шаг вперед. При этом представитель компании OpenAI Дрю Пусатери заявил, что компания сотрудничает с властями по делу о стрельбе: «Прошлогодняя массовая стрельба в Университете штата Флорида была трагедией, но ChatGPT не несет ответственности за это ужасное преступление. В данном случае ChatGPT предоставил фактические ответы на вопросы, используя информацию, которую можно было найти в общедоступных источниках в интернете, и не поощрял и не пропагандировал незаконную или вредоносную деятельность».

– Все-таки, отбоярился от ответственности.

– Странно было бы иначе. Габриэль Вейль, старший научный сотрудник одного из аналитических центров, изучающих правовые последствия ИИ, пояснил: «Если истцы действительно смогут доказать, что чат-боты совершили действия, которые были бы незаконными, если бы их совершил человек, судьи будут заинтересованы в привлечении компаний к ответственности тем или иным образом. Существующее законодательство об ответственности за качество продукции может стать одним из путей, по которому юристы попытаются привлечь компании, занимающиеся ИИ, к ответственности за вред, причиненный их инструментами.

Однако, существующего законодательства может оказаться недостаточно для решения потенциальных проблем, которые могут возникнуть по мере того, как ИИ станет более совершенным и независимым. Например, если владелец бизнеса поручает ИИ-агенту увеличить прибыль своей компании, а бот совершает мошенничество, кто должен нести ответственность - владелец бизнеса, «нанявший» бота, или компания, которая его изначально разработала и обучила?».

– И кто же?

– По мнению Габриэля Вейля, одна из сложностей при разработке законодательства об ответственности за использование ИИ заключается в том, что люди, наиболее остро понимающие риски, связанные с этой технологией, работают внутри самих компаний.

Он предлагает принять законы, которые четко определяют, что окончательная ответственность за использование ИИ лежит, все-таки, на разработчиках технологии. Нельзя закладывать в любую модель искусственного интеллекта даже малейшую возможность для совершения или содействия любому преступлению.

Автор: Андрей Яшлавский

Источник >>

Фото // Belkin Alexey\news.ru\Global Look Press