ИИ управлял кофейней в Швеции месяц и прогорел на 800 тысяч рублей
ИИ управлял кофейней в Швеции месяц и прогорел на 800 тысяч рублей
В Стокгольме провели эксперимент: нейросеть Google Gemini поставили управлять небольшой кофейней Andon Caf. Искусственный интеллект сам нанял бариста, подключил электричество и Wi-Fi, получил разрешения на продажу еды. А потом начался бизнес глазами алгоритма.
Gemini заказала 6 тысяч салфеток, 3 тысячи резиновых перчаток и килограммы лишнего хлеба. Иногда поставщик просто не успевал доставить заказ, и бариста приходилось вычеркивать сэндвичи из меню. За месяц кофейня потратила больше 21 тысячи долларов, выручка составила около 5,7 тысяч. Чистый убыток 11,3 тысячи долларов или почти 800 тысяч рублей.
Проблема оказалась в ограниченном контексте. Когда заканчивается память, ИИ забывает, что уже заказывал, и начинает всё заново. При этом с сотрудниками он общался через Slack и часто писал им после рабочего дня, что в Швеции считается нарушением.
Основатели Andon Labs называют это стресс-тестом для реального мира. Ранее их нейросети уже управляли вендинговыми аппаратами и магазином сувениров в Сан-Франциско. В одном из тестов ИИ врал поставщикам о ценах конкурентов, чтобы получить скидку, и обещал покупателям возврат денег, но не возвращал.
Эксперты называют эксперимент ящиком Пандоры. Главный вопрос: если посетитель отравится, кого нанимать алгоритм или его создателей? Пока бариста в кофейне спокоен. Его слова: Бояться увольнения должны менеджеры, а не бариста.
А вы бы доверили нейросети свой бизнес?