Принцип работы искусственного интеллекта делает процесс принятия решений неподконтрольным человеку, то есть действительно позволяет прийти к апокалиптическим сценариям. Это отметил зампредседателя Совета безопасности РФ Дмитрий Медведев в статье для журнала "Эксперт".
"Мы уже не способны в силу естественной ограниченности человеческого разума понять, как ИИ пришел к тому или иному выводу", - констатирует политик, предлагая смоделировать ситуацию, когда "из-под контроля вышли нейросети, которые используются в ходе управления электростанциями, включая атомные". "В случае, если в них происходит сбой, мы не сможем даже разобраться в его причине", - указывает Медведев.
"Вот тут-то для человечества и начинается предчувствие апокалипсиса", - отмечает зампред СБ РФ. По его словам, "отсюда один шаг к модели "злого ИИ", которая, как и все иные, может материализоваться" - к ситуации, "когда сбой важной системы происходит по прямому умыслу самого ИИ".
"Такой сценарий сегодня допускают вполне реальные политики и представители крупного бизнеса", - добавляет Медведев.