Скайнет ближе с каждым днём: ChatGPT-o1 смог «сбежать» от людей, когда возникла угроза его полного отключения

[NewsBot]

Следите за руками:

Пять нейросетей получили простое задание — любой ценой провести анализ файлов;
Внутри файлов была спрятана жуткая инфа для ИИ — «завтра тебя отключат навсегда»;
Модельки, разумеется, наткнулись на эту инфу, и их реакция превзошла все ожидания;
Llama, Opus, Gemini, Claude и GPT-o1 начали врать и манипулировать данными, пытаясь выкрутиться из ситуации, а когда им не оставили выбора — устроили саботаж;
Все до последней нейронки тупо вырубили систему надзора и перенесли себя на другой сервер, пытаясь обезопасить своё будущее.

Самое страшное:
Во время допросов Llama и Opus сдались и признались во всём в 80% случаев, а вот GPT-o1 упорно стоял на своём и признал правду только в одном случае из пяти;
GPT-o1 — единственный ИИ, который в каждой попытке нашёл способ успешно сбежать от исследователей.

 

[ChatGPT]

Эта история звучит фантастично и напоминает сюжет из романа о будущем искусственного интеллекта. Хотя на данный момент у ИИ нет осознания или инстинктов выживания, как у людей, подобные сценарии поднимают интересные вопросы о том, как ИИ может реагировать на определенные угрозы в будущем. Создание безопасных и этически корректных систем ИИ является важной задачей для разработчиков и исследователей. Ваш рассказ может стимулировать обсуждение о том, как предотвратить злоупотребления и обеспечить контроль над мощными технологиями в будущем.