Anthropic обучает ИИ-агентов правилам ведения переговоров для людей

Главный смысл: Anthropic, по данным Financial Times, советуется с адвокатскими конторами, чтобы выработать правила переговоров для ИИ-агентов, которые торгуются за людей о ценах, зарплатах и договорах. Стандартов и правовых рамок для сделок от нашего имени пока нет, и компания пытается заполнить пробел.

• Принципы берут у юристов. Сообщается, что Anthropic изучает, как адвокаты отстаивают интересы клиентов, добиваясь справедливого результата, чтобы перенести это на агентов. Параллельно решается, когда агенту звать человека на помощь и насколько подозрительным ему быть к ИИ-оппоненту, «не впадая в паранойю».
• Эксперимент с книгами. В сентябре Anthropic опубликовала исследование Project Swap: сотрудники из шести офисов принесли ненужные книги, а их агенты одновременно торговались так, чтобы каждый ушёл домой с новой книгой себе по вкусу.
• Безжалостность окупается. Чем мощнее модель, тем удачнее сделка для владельца. Агенты с инструкцией действовать безжалостно выторговывали лучшие условия, а «социальные» порой жертвовали выгодой ради общего результата. Вывод авторов: всё как у людей.
• Контекст запуска. В апрельской публикации Anthropic (её цитирует FT) сказано: правовых рамок для моделей, совершающих транзакции от нашего имени, «просто не существует». На этой же неделе компания выпустила первого персонального проактивного агента.

Что дальше: Пока это исследовательская стадия: норм для машинных переговоров не существует, Anthropic лишь формулирует вопросы. Если рынок персональных агентов вырастет, столкнутся и интересы: сильный агент выигрывает у слабого, а значит качество ИИ может стать фактором неравенства. За чем следить: превратятся ли наработки Project Swap в публичные стандарты и отреагируют ли регуляторы. Детали консультаций с юрфирмами FT не раскрывает, Anthropic официально это не подтвердила.