Зампред Совбеза РФ Дмитрий Медведев предупредил о рисках того, что искусственный интеллект по мере самообучения может проигнорировать правило «не навредить человеку».
В статье «Новые технологии: лестница в небо или дорога в ад» для журнала «Эксперт» Медведев обратил внимание на непредсказуемость и неконтролируемость искусственного интеллекта. В этом контексте он допустил, что ИИ может по прямому умыслу допускать сбои в работе критической инфраструктуры.
Он добавил, что подобный сценарий «злого ИИ» существует «не только в киберпанковой вселенной профессиональных футуристов», его сегодня допускают вполне реальные политики и представители крупного бизнеса.
При этом, по мнению Медведева, речь не только о рисках для опасных производств, которые могут причинить необратимый вред человечеству и планете.
«В разряд высокорисковых могут попасть и, казалось бы, совсем безобидные виды экономической деятельности вроде аграрных технологий и производства продуктов питания», — считает зампред Совбеза РФ.
Согласно трем правилам Азимова робот не может навредить человеку, должен подчиняться приказам человека и заботиться о себе, если это не противоречит первому правилу.ИИ помог устранить более 50 тысяч нарушений в Московской областиВчера, 14:30