Несопоставимо больший риск для человечества представляют "мирные" системы искусственного интеллекта, целью которых является его самовоспроизводство. Вот если они выйдут из-под контроля людей, то вернуть его люди уже едва ли смогут. А уже значительно позже в ходе саморазвития такая система начнёт изменять всё, что ей мешает. Даже если она не станет целенаправленно уничтожать людей, то может столь радикально изменить экологические параметры, что люди не смогут выжить.
Опасность искусственного интеллекта совсем не там, где её боятся
Несопоставимо больший риск для человечества представляют "мирные" системы искусственного интеллекта, целью которых является его самовоспроизводство. Вот если они выйдут из-под контроля людей, то вернуть его люди уже едва ли смогут. А уже значительно позже в ходе саморазвития такая система начнёт изменять всё, что ей мешает. Даже если она не станет целенаправленно уничтожать людей, то может столь радикально изменить экологические параметры, что люди не смогут выжить.
Journal information