По мере того, как искусственный интеллект демонстрирует всё более впечатляющие способности, уже разрабатываются законодательные меры для его сдерживания.
Как сообщает Politico(заблокировано в РФ), ссылаясь на информированные источники, компания Anthropic лоббирует в Конгрессе США законопроект, который даст возможность через судебные инстанции запрещать разработку и применение наиболее продвинутых моделей ИИ.
Однако опасений по поводу потенциального бунта машин может быть недостаточно; потребуется убедительное доказательство того, что система представляет собой непосредственную угрозу нанесения ущерба в размере не менее 1 миллиарда долларов, или что она может привести к гибели или тяжелым увечьям более 50 человек.
Данная инициатива может распространяться на модели, которые несут угрозу в виде разработки или применения биологического оружия, потери контроля над ними со стороны создателей, или же использования в качестве инструмента для кибератак.
Помимо самого механизма блокировки, предлагается ввести для разработчиков обязательства по созданию внутренних систем контроля безопасности, регулярной публикации отчетов о новых моделях, защите персонала от преследований, а также по информированию Министерства торговли США о любых критических сбоях, пишет Readovka.
Присоединяйтесь к обсуждению новостей «livenews24» в «Одноклассниках»
