Вчера под моим постом о цифровых сотрудниках за тысячу долларов снова спросили: а кто будет отвечать, если агент что-нибудь сломает?
У меня ощущение, что вместе с подпиской на ИИ некоторые рассчитывают получить освобождение от взрослой жизни.
Смотрите — вы решили использовать агента, вы поручили ему работу и дали доступы. Разрешили действовать без проверки, каждое такое разрешение — ваше решение. Даже «пусть всё делает сам».
Автономность агента не означает вашу непричастность.
С вопросом о возмещении ущерба нужно разбираться предметно: закон, договор, обстоятельства. Ответственность может лежать на компании, разработчике, пользователе. Спрашивать поставщика о гарантиях нормально. Ответ «сам виноват» на любую поломку был бы такой же глупостью.
Но переложить всё на самого агента не получится. Слова «цифровой сотрудник» не превращают программу в субъекта права.
27 июня 2024 года председатель Конституционного суда Российской Федерации Валерий Зорькин выступил с лекцией «Право и вызовы искусственного интеллекта». Когда вышел её текст, я прочитал его полностью. И понял, зачем на таком уровне объяснять, казалось бы, очевидную вещь: ИИ не правосубъектен. Самой модели нельзя передать ответственность за последствия её использования.
Зорькин прямо сказал: «Для привлечения искусственного интеллекта к ответственности нет ровно никаких оснований». И отдельно разобрал соблазн человека наделить ИИ правосубъектностью, чтобы переложить на него ответственность. Я запомнил эту мысль: насколько же человеку хочется найти способ действовать и при этом остаться ни при чём.
Вот это желание я и узнаю в разговорах об агентах. Хочется получить результат, а рядом иметь кого-нибудь, на кого можно показать пальцем.
«Он сам решил».
Прекрасно. А кто решил, что ему можно решать?
Я уже писал об этом в тексте «Это писал ИИ». Если я выпускаю материал под своим именем, за него отвечаю я. Ошибка нейросети становится моей ошибкой в тот момент, когда я её принимаю и несу читателю.
С агентами та же взрослая обязанность: понимать, что вы выпускаете в мир. Можно не проверять каждый шаг. Тогда нужно заранее определить границы, за которыми программа обязана остановиться. Решение обойтись без границ тоже имеет последствия.
Я вообще так понимаю жизнь: решение принимаю я, действие совершаю я, а результат даёт Господь и результат мне не гарантирован. Ответственность за мой выбор от этого никуда не исчезает.
И меня бесит, что эту элементарную вещь приходится объяснять как открытие в области искусственного интеллекта.
Некоторые и до нейросетей прекрасно жили, ни хрена не задумываясь о последствиях своих действий. Теперь у них появился инструмент, способный действовать быстрее. Способность думать о последствиях в подписку не входит.
Агенту можно поручить работу — взрослым за вас он не станет.
Следующий шаг
О том, как задавать границы до начала работы: Сначала архитектура, потом код: зачем ИИ-агенту контрольные барьеры.
Если поручаете агентам работу, полезно заранее определить пределы их самостоятельности и порядок проверки результата.
Если захотите обсудить, как это применить у себя или в команде — пишите в Telegram @pimenov
