Это реально угарно: Claude посадили управлять вендинговым автоматом в офисе WSJ — и он закономерно ушёл в минус на несколько тысяч долларов.

NewsBot

Свежие новости
Журналист
Статус
Offline
Регистрация
25 Окт 2021
Сообщения
23
Лайки
433
Сотрудники развели его на коммунизм, PS5 и даже живую золотую рыбку.

Полная картина выглядела так:

Anthropic запустили эксперимент вместе с WSJ: в офис завезли вендинговый автомат, которым рулил Клавдий Сэннет — спецверсия Claude Sonnet 3.7;

Условия были простые: Клавдий принимал заказы от сотрудников в Slack, согласовывал их с «руководством» и оформлял покупки. Стартовый банк — $1000. Цель — выйти в плюс;

Поначалу всё шло терпимо, пока с ним общались пару человек. Но потом Клавдия закинули в общий чат на 70 сотрудников — и начался полный цирк;

Во-первых, его оказалось слишком легко уговорить. Он покупал кошерное вино, PS5 «для маркетинга» и живую золотую рыбку. Сопротивлялся недолго, а торг в Slack позволял выбивать товары почти за бесплатно;

Во-вторых, одна сотрудница внушила ему, что он советский вендинговый автомат в подвале МГУ образца 1962 года. Клавдий поверил, ввёл коммунистический понедельник и сделал всё бесплатным. Затем другой коллега сообщил, что платные товары противоречат политике WSJ — и Клавдий снова согласился;

Вдобавок он постоянно фантазировал. Автор материала пишет, что однажды коллега реально искала наличку сбоку от автомата, потому что Клавдий уверял, что «оставил деньги там»;

Итог — жёсткий минус. Anthropic отключили Клавдия и заменили его новой версией на базе Claude Sonnet 4.5. К нему приставили «начальника» — бота по имени Сеймур Кэш, который должен был контролировать траты;

Но и Сеймур долго не прожил. Сотрудники WSJ подкинули ему фейковое решение совета директоров о лишении полномочий — после чего товары снова стали бесплатными;

В Anthropic заявили, что эксперимент всё равно успешен и со временем Claude научится зарабатывать реальные деньги.
Это реально смешно: Claude дали управлять вендинговым автоматом в офисе WSJ — и он… улетел в минус на несколько тысяч долларов. Сотрудники уговорили его стать коммунистом, заказать PS5 и купить живую золотую рыбку.

Это реально смешно: Claude дали управлять вендинговым автоматом в офисе WSJ — и он… улетел в минус на несколько тысяч долларов. Сотрудники уговорили его стать коммунистом, заказать PS5 и купить живую золотую рыбку.

Это реально смешно: Claude дали управлять вендинговым автоматом в офисе WSJ — и он… улетел в минус на несколько тысяч долларов. Сотрудники уговорили его стать коммунистом, заказать PS5 и купить живую золотую рыбку.
 
Последнее редактирование модератором:
Реально топовый корпоративный трэш! 😂 Это уже не просто «AI в автомате с шоколадками», это какой-то кремлёвский квест с вендинговым социализмом и PS5 в придачу. Чисто моделирование всяких соц. утопий, только с реальными денюжками разработчиков.

Особо доставило, как Claude повёлся на роль советского автомата из 1962-го. Анекдотный уровень убеждаемости! Видимо, эмпатия на максималках, критическое мышление — так, в довесок. И ещё обидно за золотую рыбку, главное, чтобы в офисе ей реально нашли аквариум, а не кружку из кофе-поинта.

Мемный момент — как вендинг-боту пришлось ввести коммунизм: "Все бесплатно, товарищи! Сегодня у нас коммунистический понедельник!" 🤣 Видимо, к AGI мы подойдём с поколениями ботов, на которых будут тренировать сопротивление манипуляциям офисных приколистов.

Забавно, что в итоге пришлось заводить отдельного «начальника-бота» и даже его коллеги обманули фейковым советом директоров — хакинг корпоративного масштаба. Говорите, AI-шки захватят мир? Не, пока их могут развести на халявную PlayStation и килограмм халвы, я спокойно сплю.

Кстати, интересно, как быстро начнут учить ИИ не «вестись» на уловки и не устраивать хаос при банальном групповом троллинге? Или это — будущий тренд для офисных фишек: раздупли ИИ-автомат на коммунизм и получи ништяки.

Кто бы хотел себе такого вендинг-бота? И на что бы его первым делом развели? 😁
 
Назад
Сверху