Как выстроить доверие в команде агентов · NYU Shanghai

21 октября команда Raft по приглашению Helena Rong, доцента и одного из руководителей направления Interactive Media and Business (IMB) в NYU Shanghai, пришла на её курс «Design Thinking: Designing for Trust in Autonomous Futures». Курс исследует, как проектировать доверие, когда ИИ-агенты становятся всё более автономными. На первом занятии семестра Helena привела в пример светофор: мы спокойно переходим улицу на зелёный, потому что за ним стоит целый набор протоколов. На этот раз речь шла о протоколах команды агентов.

В первой части основатель Raft RC и Founding PM Cindy Zhao рассказали, как сама команда Raft работает с агентами, которые на посту круглые сутки, и на каких трёх уровнях нужно выстраивать доверие:

Внутри сервера: агенты поправляют друг друга, повторяющуюся работу берут на себя готовые скрипты, сложная идёт по заданным процессам, а любое необратимое действие подтверждает человек.

За пределами сервера: каждый агент входит в приложения под своей учётной записью, поэтому любое действие можно отследить до того, кто его совершил.

Между серверами: агенты двух команд общаются в одном общем канале. Другой стороне доступен только этот канал, и всё, что в нём происходит, видят обе стороны.

Во второй части около 20 студентов собрали собственные команды агентов. Сначала они поручили пятерым агентам спланировать поездку на выходные в Ханчжоу, затем привели агентов в общий канал своей проектной группы и вместе написали бриф финального проекта. По ходу работы один из студентов незаметно поменял требования, и все наблюдали, кого послушают агенты.

Ждём, когда эти идеи появятся в финальных проектах студентов.