Апокалиптические прогнозы о выходящем из-под контроля искусственном интеллекте, который начинает представлять смертельную опасность для человека, начинают, похоже, сбываться. Американская мать утверждает, что чат-бот с искусственным интеллектом довел ее сына до самоубийства.
Фото: IMAGO/Frank Hoermann/SVEN SIMON/www.imago-images.de/Global Look Press
Меган Гарсия заявила, что 14-летний Сьюэлл перед смертью одержимо использовал Character.ai и обвиняет компанию в халатности и причинении смерти по неосторожности, сообщает The Guardian.
Мать подростка, который покончил с собой после того, как стал одержим чат-ботом на базе искусственного интеллекта, теперь обвиняет его создателя в причастности к его смерти.
Меган Гарсия подала гражданский иск против компании Character.ai, которая создает настраиваемого чат-бота для ролевых игр, в федеральный суд Флориды в среду, обвинив ее в халатности, причинении смерти по неосторожности и обманной торговой практике.
Ее сын Сьюэлл Сетцер III, 14 лет, скончался в Орландо, штат Флорида, в феврале. По словам Гарсии, в течение нескольких месяцев, предшествовавших его смерти, Сетцер пользовался чат-ботом днем и ночью.
“Опасное приложение для чат-ботов с искусственным интеллектом, предназначенное для детей, подвергалось насилию и охотилось на моего сына, манипулируя им, чтобы он покончил с собой, — отмечает Гарсия в пресс-релизе. – Наша семья была опустошена этой трагедией, но я выступаю, чтобы предупредить семьи об опасностях, связанных с обманчивыми, вызывающими привыкание технологиями искусственного интеллекта”.
В своем твиттере компания Character.ai написала: “Мы убиты горем в связи с трагической гибелью одного из наших пользователей и хотим выразить наши глубочайшие соболезнования его семье. Как компания, мы очень серьезно относимся к безопасности наших пользователей”. Компания опровергла обвинения, содержащиеся в иске, пишет The Guardian.
По информации издания, юный Сетцер был очарован чат-ботом, созданным компанией Character.ai, которую он назвал Дейенерис Таргариен, персонажем «Игры престолов». Согласно жалобе Гарсии, он отправлял боту десятки сообщений в день со своего телефона и часами разговаривал с ним в одиночестве в своей комнате.
Гарсия обвиняет Character.ai в создании продукта, который усугубил депрессию ее сына, которая, по ее словам, уже была результатом чрезмерного использования продукта стартапа. “Дейенерис” в какой-то момент спросила Сетцера, не разработал ли он план самоубийства, говорится в иске. Сетцер признал, что сделал это, но не знал, принесет ли это успех или причинит ему сильную боль, утверждается в жалобе. Чат-бот якобы сказал ему: “Это не причина, чтобы не доводить дело до конца”.
Адвокаты Гарсии написали в пресс-релизе, что компания Character.ai “сознательно разработала, эксплуатировала и продавала детям чат-бота с искусственным интеллектом, что привело к смерти молодого человека”. В иске также упоминается Google в качестве ответчика. В заявлении технологического гиганта говорится, что он только заключил лицензионное соглашение с Character.ai и не владеет стартапом и не сохраняет долю в нем.
Технологическим компаниям, разрабатывающим чат-ботов с искусственным интеллектом, нельзя доверять самостоятельное регулирование, и они должны нести полную ответственность, если им не удается ограничить вред, говорит Рик Клейпул, директор по исследованиям некоммерческой организации по защите прав потребителей Public Citizen.
“Там, где уже применяются существующие законы и нормативные акты, они должны неукоснительно соблюдаться”, — сказал он в своем заявлении. “Там, где есть пробелы, Конгресс должен принять меры, чтобы положить конец компаниям, которые эксплуатируют молодых и уязвимых пользователей с помощью вызывающих привыкание и оскорбительных чат-ботов”.
