На карте
Я написал пост о заявке Microsoft на патент: ИИ сможет менять слова человека в прямом эфире и подстраивать движения губ под новую речь. Замены могут учитывать профиль зрителя, поэтому два человека, смотрящие одно выступление, получат разные версии сказанного. Пока это описание технологии в заявке; её массовое внедрение не подтверждено.
В обсуждении появился вопрос: «Оставят ли нам опцию смотреть оригинал?»
Вокруг него можно построить весь разговор о будущем искусственного интеллекта.
Одна из публикаций этого поста собрала за сутки около 300 тысяч охвата, три тысячи реакций и восемьсот репостов. Для меня это рекорд. Комментариев оказалось столько, что читать их обычным способом стало отдельной работой. Люди спорили, вспоминали книги, ругались, придумывали способы спасения. Обсуждение заслуживало продолжения.
А потом мне написал мой старый товарищ Николай Турубар, журналист и спикер по искусственному интеллекту. Его пригласили дать комментарий на «России-24» по этой теме. Николай, как обычно, попросил прислать первоисточник, чтобы разобраться перед разговором.
Ему прислали ссылку на пост в моём телеграм-канале «НИИ ИИ».
Вот это приятно. Твой пост доходит до редакции телеканала, а потом возвращается к тебе через знакомого, которому предложили прокомментировать эту тему.
И здесь получился ещё один поворот истории про доверие к информации. Для подготовки телевизионного комментария отправной точкой стал мой пересказ. Сама заявка Microsoft находится ещё на шаг дальше. По дороге от документа к посту и затем к эфиру нужно сохранить возможность вернуться к тому, с чего всё началось.
Чтобы разобраться в реакции читателей, я сначала собрал скриншоты, потом открыл пост в Chrome и поручил Codex прочитать комментарии через управление компьютером — Computer Use. Он прокручивал страницу, раскрывал свёрнутые ветки, читал ответы на ответы. Так мы разобрали все доступные комментарии: 229 основных и 146 ответов. Всего 375 записей. Счётчик показывал 392, но остальные интерфейс не выдал. Их содержание мы додумывать не стали.
Получилась характерная для нашего времени работа: с помощью ИИ разбирали, чего люди боятся в ИИ. И в ответах нашлось гораздо больше, чем в самой новости.
Одна читательница написала, что у каждого теперь будет своя правда. Я ответил: так вроде всегда и было. Она уточнила: раньше люди хотя бы слышали одинаковые слова, а потом каждый понимал их по-своему. Теперь каждому могут сразу сказать то, что соответствует его представлениям.
И вот с этим уточнением я согласился.
У нас и так хватает трудностей с пониманием друг друга. Если ещё и исходные слова будут разными, спорить станет совсем увлекательно. Вы оба смотрели одно выступление. Оба уверены, что прекрасно помните сказанное. У обоих есть запись. Только человек на этих записях говорит разное.
В заявке Microsoft среди применений описанной системы названы перевод, удаление слов-паразитов и фильтрация нежелательных выражений. В качестве примера задержки указаны от одной до десяти секунд. За это время система должна успеть обработать речь и соответствующее изображение.
Здесь я должен уточнить собственную формулировку из первого поста. Я написал, что проверить подмену невозможно. Это слишком категорично. В заявке предусмотрено сохранение исходной записи. Но хранение оригинала ещё не означает, что зритель сможет его открыть и сравнить со своей версией. Как будет устроен этот доступ в реальном продукте, мы пока не знаем.
Именно поэтому вопрос читательницы так точно попал в суть.
В комментариях нашлись люди, которым идея понравилась. Наконец можно будет избавиться от мата, речевых ошибок и бесконечного мычания. Кто-то напомнил про пользу перевода. Кто-то справедливо разделил исправление оговорок и изменение смысла.
Эти аргументы заслуживают внимания. Долгую лекцию бывает тяжело слушать. Человек может хорошо понимать предмет и плохо формулировать мысли. Перевод вообще позволяет услышать того, кого без него вы бы не поняли.
У такого сервиса найдутся пользователи. Его даже не обязательно навязывать. Достаточно предложить сделать просмотр удобнее.
Трудность начинается с определения этого удобства. Убрать повтор, исправить ударение, заменить грубое выражение. Дальше окажется, что кому-то неприятно само утверждение. Оно противоречит его взглядам, раздражает, заставляет закрыть видео.
Если представить сервис, который всё последовательнее подстраивает речь под слушателя, возникает очень соблазнительный продукт. На экране остаётся человек, которого вы уважаете. Он говорит привычным голосом, смотрит знакомыми глазами и всё лучше с вами соглашается.
Зачем закрывать такое видео?
В обсуждении много вспоминали Стругацких, Пелевина, Оруэлла и «Чёрное зеркало». Люди узнают знакомый сюжет: между человеком и происходящим появляется кто-то, кто решает, какую версию ему разрешено увидеть. Только персональная настройка добавляет к этому сюжету особое удобство. Версию могут подбирать так, чтобы вам самому хотелось её смотреть.
Мне важна возможность услышать человека, который со мной не согласен. В том числе неприятного, раздражающего, плохо подбирающего слова. Его манера говорить тоже помогает понять, с кем я имею дело.
Оговорка иногда сообщает больше подготовленного ответа, а пауза показывает сомнение. Неудачная шутка позволяет увидеть то, что человек в официальном выступлении предпочёл бы спрятать. Если всё это аккуратно отредактировать, получится более приятный собеседник. Насколько он будет соответствовать настоящему, придётся выяснять отдельно.
Один из самых живых разговоров под постом начался с сожаления о телевизионных ляпах. В ответах вспоминали спортивные оговорки, из которых потом годами складывался общий язык. Система исправит ошибку, и формально качество станет выше. Но вместе с ошибкой исчезнет момент, ради которого эту запись вообще хотелось пересматривать.
Сложнее становится, когда речь идёт об обещаниях и решениях.
Допустим, на рабочей встрече человек говорит, что попробует закончить задачу к пятнице. Обработка делает речь увереннее, убирает лишние слова. У слушателя остаётся обещание закончить к пятнице. Это придуманный пример, но он показывает, насколько небольшой может быть правка, которая меняет обязательство.
В другом случае система решит поправить ошибку преподавателя. Студент услышит исправленное утверждение голосом преподавателя и не узнает, что в разговор вмешался ещё один участник. Если ошиблась сама система, разбираться придётся всем.
Поэтому мне мало общего сообщения о том, что при создании видео использовался ИИ. Я хочу понимать, что именно обработали. Перевели речь, убрали шум или заменили сказанное. От этого зависит, что я вообще могу заключить из записи.
В комментариях люди довольно быстро перешли от президентов и телевизора к родственникам, звонкам знакомым голосом и видеосвязи, в которой вы видите близкого человека и рассчитываете на это узнавание.
Подделка личности и изменение настоящего эфира устроены по-разному. Но для слушателя у них есть общий болезненный вопрос: произносил ли человек на экране те слова, которые сейчас звучат его голосом?
Когда речь идёт о чужом политике, можно отмахнуться и закрыть видео. Когда на экране ваш ребёнок или ваша мать, дистанция резко сокращается.
И у говорящего есть своя сторона этой истории. Я могу отвечать за собственные слова, спорить о них, признавать ошибку. Если система добавила мне убедительности или незаметно исправила мысль, мне сначала придётся устанавливать, какая версия вообще дошла до собеседника.
Голос мой, лицо моё, а слова надо уточнять.
В ответах повторялось желание уйти из всего этого. Выбросить телевизор. Отказаться от интернета. Покупать бумажные книги и встречаться лично.
Это желание понятно. Люди ищут способ общаться без постоянной проверки, настоящий ли перед ними человек и произносил ли он то, что они только что услышали.
Но прямо там нашлось возражение: полностью уйти в офлайн трудно, когда у вас семья, дети и дела, которые давно связаны с интернетом. Родственники живут в разных городах, коллеги работают удалённо. Личная встреча хороша, когда она возможна.
Да и человек, сидящий напротив за столом, вполне способен соврать. Подлинность разговора и правдивость сказанного остаются разными вещами.
Это различие понадобится нам всё чаще. Оригинал позволяет установить, что человек произнёс. Проверка фактов помогает понять, соответствует ли его утверждение действительности. Одно не заменяет другое.
В обсуждении нашёлся почти готовый пример того, как легко их смешать. Одна участница написала, что спросила об этой новости ИИ. По её пересказу, он согласился с тем, что технология аморальна, и сообщил об отказе Microsoft в патенте.
Подтверждения отказа в комментарии не было. Сам разговор с моделью мы не видели, поэтому его подробности неизвестны. Но в обсуждение уже попало новое утверждение, полученное при попытке проверить предыдущее.
Человек хотел разобраться. Вернулся с ответом, который его устроил. Проверять теперь нужно ещё и этот ответ.
Здесь полезен и наш опыт с Codex. Я дал ему конкретный пост и попросил открыть комментарии, включая вложенные ответы. Мы получили доступный текст обсуждения, увидели разные позиции и отдельно отметили, что часть записей открыть не удалось. Работу машины можно было связать с тем, что находилось на странице.
Я хочу сохранять такую возможность и дальше: вернуться к источнику, посмотреть контекст, проверить, откуда взялся вывод. ИИ может помочь пройти через объём информации, на который у человека не хватает времени. Но последнее доступное окно к исходному материалу закрывать нельзя.
Особенно опасным мне кажется решение больше ничему не верить.
Если любую запись можно объявить подделкой, настоящие слова тоже становятся удобными кандидатами на отмену. Человек что-то сказал, запись сохранилась, а он предлагает сначала доказать, что это был он. Остальные спорят о технологии, и содержание сказанного постепенно теряется.
Тотальное недоверие очень быстро становится столь же удобным, как полная доверчивость. В обоих случаях можно перестать разбираться.
Поэтому я хочу вполне конкретных вещей: видеть, что речь изменена, иметь доступ к исходной записи и возможность сравнить версии, самому выбирать обработку. А если меняют мои слова, понимать, на что я согласился и что услышит другой человек.
Есть большая разница между моей просьбой отредактировать выступление и чужим решением сделать меня удобнее для аудитории. В первом случае я участвую в работе и могу проверить результат, а во втором за меня уже поговорили.
Мне не нужен запрет на перевод, монтаж или исправление ошибок. Мне нужна возможность установить, где заканчиваются слова человека и начинается работа системы.
Я хочу слышать и то, что мне не нравится. Хочу замечать чужие ошибки и свои собственные. Иметь возможность передумать после разговора с человеком, который сумел сказать что-то неожиданное.
Я хочу сам решить, согласен ли с человеком. Для этого мне нужно услышать его слова до того, как их сделали приятными для меня.
Оставьте мне оригинал.
Следующий шаг
Возьмите один ответ ИИ, на который собираетесь опереться, и сопоставьте его утверждения с исходными материалами. В статье Влада Арбатова «Агент врет и не краснеет. Выводим ИИ на чистую воду» разобраны реальные ошибки агента и способы такой проверки, включая готовый промпт для сверки ответа с результатами инструментов.
Если вы используете ИИ для исследований, подготовки публикаций или обработки записей, полезно заранее определить, как сохранять оригиналы и проверять изменения перед выпуском.
Если захотите обсудить, как это применить у себя или в команде — пишите в Telegram @pimenov
