Джеффри Хинтон, обладатель Нобелевской премии, выступил с предостережением: катастрофу способен вызвать искусственный интеллект, причём случиться она может в течение считанных лет.
Не исключено, что нас ожидает повторение Чернобыля — версия 2.0.
Однако в Чернобыле персонал допустил промах в обстановке, которую сама система превратила в неясную и угрожающую. С искусственным интеллектом опасность имеет похожую природу: нейросеть в состоянии выдать решение, а у человека попросту не останется времени ни растолковать его, ни проинспектировать, ни отозвать.
Если же алгоритм просчитается при управлении энергетической сетью, денежной сферой или перевозками, подобный промах способен обернуться аварией в масштабах целого государства. Достаточно единственной ошибки — и сбой молниеносно охватит миллионы граждан.
Суть трудности не в том, будто машины «пожелают» причинить вред. Трудность в другом: всё большее число задач, которые прежде решались людьми самостоятельно, теперь передаётся ими машинам, пишет Царьград.
Присоединяйтесь к обсуждению новостей «livenews24» в «Одноклассниках»
