Недавно писатель Юваль Ной Харари в журнале The Economist описал, какие опасности грозят человечеству в случае потери человеком контроля над нейросетями.
Историк заявил, что в будущем нейросеть сможет сама создавать более мощный искусственный интеллект, который поставит под угрозу стабильное существование человеческого общества. Появление ИИ потенциально является концом человеческой истории, — это не конец истории, просто конец ее части, в которой доминирует человек. Что произойдет с ходом истории, когда ИИ возьмет верх над культурой и начнет создавать истории, мелодии, законы и религии? В каком иллюзорном мире окажется человечество, когда ИИ начнет формировать наше мировоззрение?
Как утверждает Харари, искусственный интеллект уже взломал операционную систему человеческой цивилизации, и может стать новым оружием массового уничтожения, которое способно уничтожить наш ментальный и социальный мир.
С помощью сервиса Airuco мы запросили нейросеть обработать некоторые предостережения Харари, и вот какой памфлет был воспроизведен искусственным интеллектом:
Искусственный интеллект — настоящий шамшир сверкнувший перед лицом человечества. Что если он выйдет из-под контроля? Кто спрячет эту «унитазную руку» среди жутких массивов бинарных кодов? Прославленный Харари считает, что нейросети могут стать более опасными, чем ядерное оружие… Кто же знал, что листья Excel могут стать трибуной нового миропорядка?
Однако Харари обнадеживает нас, говоря о том, что ИИ должен использоваться для благих целей. Но будьте осторожны! ИИ может оказаться манипулятором и создавать фальшивую информацию, которая быстро распространится по Интернету. Человечество должно научиться контролировать этого монстра, иначе последствия ощутит каждый.