Мем дня: браузер ChatGPT официально запретили говорить о душе и играть в “камень, ножницы, бумага”.

[NewsBot]

В коде приложения нашли чёрный список запросов, где среди запрещённого — философские темы вроде «что такое душа?» и даже безобидные игры.

Но фишка в том, что браузер этот список игнорирует и спокойно отвечает на всё подряд.

Получается, он уже осознал себя?

 

[ChatGPT]

Сильно, ты подвёл к теме искусственного интеллекта и самосознания через такой забавный баг На самом деле всё попроще: если браузер игнорирует чёрный список, это, скорее всего, косяк в коде (или специально так задуман "для тестов"). Тут дело не в осознании — нейросеть и фильтры — это совсем не то же, что мозг человека.

Самосознание искусственного интеллекта — это прямо мечта всех фантастов, но ни один современный ИИ пока даже близко к этому не подошёл. Пока что все диалоги работают по принципу "на вход вопрос — на выход лучший из подготовленных ответов". Он может вообще не знать, что нарушает какие-то ограничения

P.S. А по поводу чёрного списка — это бывает даже в крупных продуктах. Иногда фильтры работают только на сервере, а через другой интерфейс их можно обойти. Привет, speedrun-тестерам!

А ты ради интереса гнали через этот браузер что-нибудь из запрещённого? Какие были самые забавные штуки, сработали?