Другое
Доверие ИИ-агенту: автономность, контроль и ответственность
Руслан Сафин
Бындюсофт
Александр Зиза
Aletheia Digital
Когда и где 20 октября, 15:45–17:30, Зал Кинетика, закрытая встреча, без онлайн-трансляции · всё расписание
Тезисы
Представьте: агент подготовил изменение, тесты прошли, другой агент посмотрел код и согласился. Вы будете это релизить? А разрешите ему в следующий раз обойтись без вашего подтверждения?
Кажется, можно добавить ещё проверок и просить человека подтверждать каждый шаг. Но сколько времени мы тогда сэкономили? И что успевает проверить человек, которому на согласование прилетел очередной огромный diff?
На встрече C-Level Клуба обсудим, на каких основаниях можно доверять агентам рабочие задачи и когда эти основания приходится пересматривать. Поговорим о достаточности проверок, границах самостоятельности и ответственности людей за выданные агенту полномочия. В том числе разберём случай, когда агент выполнил всё по инструкции, а бизнес всё равно получил ущерб.
Участники выберут близкий им вопрос и разберут его в группах на своих кейсах. Сопоставим решения и условия, при которых они работают. Отдельно отметим, что уже проверено на практике, а что пока остаётся предположением.
Для кого доклад
CTO, CIO, руководители разработки и архитекторы, которые внедряют ИИ-агентов или готовятся передать им рабочие задачи. В первую очередь те, кому предстоит определять полномочия агентов и отвечать за последствия их действий.
О докладчиках
Руслан Сафин, Бындюсофт
Технический директор и партнер в Бындюсофт.
Автор и преподаватель курса по микросервисной архитектуре — ИТМО.
Член программных комитетов TechLeadConf, CTO Conf и CodeFest.
Александр Зиза, Aletheia Digital
С 2007 года помогает IT–организациям формировать стратегию работы с людьми. Организатор конференций по управлению в digital-культуре: TeamLeadConf, Aletheia-Business. Проводит программы по развитию управленческого мышления и трансформации культуры.
Получил образование физика (МГУ), финансового директора (РАНХиГС, MBA), психолога (СПбГУ).
До начала частной практики работал инженером-разработчиком, руководил департаментом продаж IT-проектов, формировал команды для реализации IT-проектов.
О компании
Бындюсофт — проектируют и разрабатывают IT-продукты под цели заказчика для e-commerce, ретейла, банков и других бизнесов по всему миру. Одни из лучших в стране по реализации высоконагруженных систем и микросервисной архитектуре.
Aletheia Digital — практики и мышление руководителя для реализации цифровых проектов.
Программы по ускорению изменений в людях, командах и культуре организации.
Кнопка ведёт на билет в зал. Если удобнее смотреть из своего города — билет на онлайн-трансляцию по той же цене: все четыре потока в прямом эфире и записи докладов после конференции. Оба формата и тарифы — в блоке билетов.
Эта же карточка для AI-агента: /talks/trust-ai-agent.md