По горячим следам. Конец офисному планктону

[brumka]

Вдогонку предыдущему посту о ClawdBot/MoltBot или как его там сегодня переименовали.  Буквально вчера услышал в покасте "all Iin" как один из ведущих применил этого бота для создания, по его словам на 90%, полноценного продюссера подкаста.  Даже больше.  Вот резюме эксперимента:

* Запустил это как отдельную среду (на VM / Mac mini) и авторизовал в сервисах Gmail/Notion/Slack/WhatsApр

* Ограничил риски через новые аккаунты: вместо подключения к своим личным учёткам он создал новые аккаунты Gmail/Notion/WhatsApp и определил ему “персону” продюсера.

* Попросил  его подготовить список участников: бот исследовл гостей и выдавал то, что обычно делает продюсер на первом проходе (background research, компания/основатель, конкуренты, таймлайн, идеи вопросов, медийные появления и т. п.).

* Дальше интереснее: подключенил к входным данным фиды подкастов + их база прошлых/планируемых гостей и дал команду “сделай CRM” потенциальных гостей и предложи новых и бот фактически сам vibe-coded себе CRM. 

* После чего поручил боту написать конкретному гостю, добавить его и одного из коллег в копию.  Бот написал письмо, после чего Джейсон получил положительный ответ (“Sounds great…”).

* Потом добавил ещё нескольких “персон” (“репликантов”), которые постили всё, что они сделали, добавляя это в календарь с тайм-стампами, чтобы работа отслеживалась как у сотрудника.

Comments

[sobriquet9]

Самое интересное начинается потом. Что будет, когда бот накосячит? Исправлять надо будет хозяину, и на нём все репутационные риски, с бота взятки гладки.

[brumka]

А что бывает когда косячит наёмный работник?

[sobriquet9]

Наёмного работника можно лишить премии, если он контрактор то не платить ему пока не будет сделано, если он преступление совершил (слил данные налево) то в суд подать и получить компенсацию.

У наёмного работника есть имя и репутация со сроком жизни в десятки лет. А у робота новая версия раз в месяц и новое название раз в год.

[brumka]

Бот и так сто́ит копейки, и в его настройках (системном промпте) можно описа́ть мотивирующие параметры. Это кстати уже существующая практика.

А вот новые версии это да... Но ведь и переносить бота с одной платформы на другую - невелика проблема.

С учётом всех этих новшеств, я думаю что офисным работником будет эдакий бот-администратор

[dorimena]

да я уже с таким ботом из Битуах Леуми попереписывалась:
"שלום וברכה,
בהמשך לפנייתך.
לאחר בדיקה בתיק ניראה שהנך מקבלת את קצבת האזרח וותיק על פי שנות הוותק המרביות ביותר+ תוספת השלמת הכנסה
לכן ניראה שהנך מקבלת את הסכום המקסמלי
כו כן במידה ויחולו שינויים בגובה הכנסותיך יש לעדכן בהתאם.
i לתשומת לבך!
הודעה זו נשלחה ממערכת אוטומטית, לא ניתן להשיב למייל זה
בברכה,
Потом потопала ножками и выяснилось, что весь год неправильно начисляли
המוסד לביטוח לאומי"

[vit_r]

Бот не стоит копейки, а переносит риски и расход времени на пользователя.

Другое дело, бот проще взломать.

[sobriquet9]

И потом эти мотивирующие параметры может поменять хакер Вася снаружи через prompt injection. Боты сейчас проходят ту стадию, которые обычные интернет приложения проходили двадцать-тридцать лет назад (SQL injection, cross-site scripting и т.п.)

Причём санитизацию ввода проводить гораздо сложнее, и может быть даже полностью вообще нельзя в принципе.

[brumka]

дык, если там ручки кривые, то никакой бот не поможет

[dorimena]

не кривые, а ленивые. бот всегда прав

[brumka]

>> может поменять хакер через prompt injection
может, конечно. а может и нет. я работаю с одним из продуктов, которые как-раз защишают от prompt injection и проч атак/ Всё дело в том, кого спросить :))

[brumka]

я не думаю, что с точки зрения рисков, виртуальный сотрудник (т.е. бот) сильно отличается от наёмного.

а вот безопасность это огромная тема. собственно, и кожаных мешков регулярно используют как дырки в безопасности - кликают, панимаеш ли, на всякие ссылки и инсталлируют чертти что

[vit_r]

Сотрудника можно обучить. Над ботом обучающий не властен.

[brumka]

отчего-же не властен? вполне - хозяин определяет входные данные, точные требования и указания (и.е. prompts). конечно, это требует определённого навыка и может потребовать дооп итеративных уточнений

как и любая новая технология, займёт время понять где и как этим можно воспользоваться

но офисным работникам/секретарям/организаторам/и т.п. конец

[vit_r]

Промптинг относится не к созданию требований, а к магическому черезжопному программированию по типу SEO.

Эффекты которого тоже кардинально меняются после очередного необъявленного апдейта у провайдера.

[brumka]

>> Эффекты которого тоже кардинально меняются

понимаю, что я в этом обсуждении выступаю в роли адвоката дьявола. или продавца. при этом не являясь ни тем ни другим :)

резюмируя:

а. рисков много и как их эффективно решать не всегда понятно. но они решаемы :)

б. технология новая и вендоры выруливают постоянные "улучшения", которые могут всё сломать. тут при желании, можно гонять всё локально и защититься от этого риска

в. главное, это стоимость и гибкость. мелкому и среднему бизнесу это именно то, что нужно. у крупного бизнеса всё слишком сложно и переход на модульные процессы для того, чтобы можно было легко и быстро подстраиваться, займёт кучу времени.

[vit_r]

1. Я в теме с восьмидесятых. Технология старая и все проблемы известны с предыдущих попыток и не вылечены в этой.

2. Проблема для бизнеса в стандартных процессах, а не в хитрожопых извращениях.

3. Большая коммерческая тайна / 24 kB / 2023-09-22

[sobriquet9]

Вот это правильно, значит, без работы не останетесь. Claude Code используется в написании Claude Code, поэтому дыры в безопасности будут плодиться и размножаться сами и затыкать их надо будет непрерывно.