На выборах мэра Торонто спорят об использовании ИИ

На выборах мэра Торонто разгорелся спор об использовании кандидатами искусственного интеллекта. Советник Брэд Брэдфорд оказался под критикой других кандидатов после того, как издание National Observer на прошлой неделе сообщило, что его кампания использует ИИ-приложение для рассылки сторонникам готовых тезисов для публикации в интернете. В материале также утверждалось, что приложение вознаграждает пользователей за публикацию комментариев в соцсетях и передачу контактов из телефона штабу кандидата.

В понедельник Брэдфорд опроверг, что пользователи приложения получают какое-либо вознаграждение за публикацию сгенерированных ИИ сообщений от имени его кампании.

«Никаких вознаграждений, никакого личного общения, ничего подобного нет, — заявил Брэдфорд. — Мы используем приложение для кампании, точно так же, как его использует кампания Оливии Чоу, и то, что мы делаем, это обеспечиваем связь с избирателями».

В штабе Брэдфорда сообщили CBC News, что функция приложения, предлагающая варианты комментариев и сообщений, помогает сторонникам делиться своим мнением с окружением. Но каждый комментарий «проверяется, редактируется и всегда публикуется реальным человеком — сторонником, с его собственного аккаунта, под его собственным именем».

«Предлагаемый контент создают волонтёры нашей команды, а не ИИ», — заявила представитель кампании Ларисса Уолер.

«Это ничем не отличается от того, как кампания раздаёт тезисы, листовки и таблички на газонах, просто быстрее».

Штаб Чоу заявил, что не использует ИИ

Раскрытие информации о штабе Брэдфорда спровоцировало дискуссию среди ведущих кандидатов в мэры города и заставило их раскрыть собственное использование ИИ.

Уолер отметила, что команда Брэдфорда не единственная, кто применяет эту технологию, указав на использование мэром Оливией Чоу платформы Nationbuilder — программного обеспечения для организации кампаний, в котором, по словам команды Брэдфорда, встроены элементы ИИ.

Однако в штабе Чоу заявили, что не пользуются приложениями, которые просят людей передавать личную информацию, и что там отключили функции ИИ во всём программном обеспечении, где они присутствуют.

«Кампания Оливии Чоу нанимает дизайнеров, видеографов и авторов текстов в состав нашей команды, и мы надеемся, что любые отзывы, которые мы получаем в интернете, оставляют реальные люди», — заявил представитель кампании Чоу Зевс Иден.

Крис Александер сообщил, что его кампания использует ИИ для некоторых исследований, но проверяет источники, прежде чем делать выводы. По его словам, команда также использует технологию для проверки орфографии и грамматики.

«Мы годами пытались разобраться, какие из заявлений мэрии были правдой, и доверие в этом городе и так невелико, никто не должен получать сообщения или информацию, которые зависят от алгоритмов и машин», — сказал Александер.

Опасения, что ИИ-приложения искажают онлайн-дискуссию

То, что ИИ используется кампаниями на муниципальном уровне, не удивительно, отметил Анатолий Грузд, профессор управления информационными технологиями в Toronto Metropolitan University. По его словам, это относительно недорогой способ расширить охват кампании среди сторонников и избирателей.

Опасение, связанное с ИИ-приложениями, которые вовлекают сторонников, состоит в том, что их могут использовать для искажения онлайн-дискуссии и распространения среди избирателей дезинформации, сказал Грузд, содиректор Social Media Lab при TMU.

Например, по его словам, такие приложения можно использовать для организации «толпы» в соцсетях, которая публикует определённое сообщение в поддержку кандидата, но при этом представляет лишь меньшинство пользователей интернета.

«Это создаёт иллюзию консенсуса по определённому вопросу, тогда как консенсуса может не существовать, или, возможно, большинство на самом деле думает иначе», — сказал он.

Профессор публичной политики Университета Макгилла Ангус Бриджман считает, что общество переходит из мира до ИИ в мир, где эта технология становится нормой.

«Проблема в том, что модели ИИ часто вводят в заблуждение, — сказал Бриджман, директор Media Ecosystem Observatory при Макгиллском университете. — Они часто производят неточный контент, которому при этом придаётся незаслуженный вид достоверности».

Алекс Марланд, профессор политики Университета Акадия, изучающий проведение кампаний, отметил, что само использование ИИ становится непростым вопросом для кандидатов и их штабов. Если избиратели не доверяют ИИ, они начинают задаваться вопросом, могут ли они доверять кандидату, который его использует, сказал он.

ИИ может уравнять условия для некоторых кампаний, считает эксперт

Однако использование ИИ кампанией само по себе не является неэтичным, отметил Марланд. Вопрос, по его словам, в том, как применяется технология.

«Предполагать, что использование ИИ в муниципальной кампании Торонто — это плохо, я бы назвал абсолютным перебором, к тому же это несправедливо по отношению к кампаниям с меньшими ресурсами, — сказал он. — Но использовать ИИ таким образом, чтобы очернять оппонентов, вот где грань действительно нарушается».

Марланд сравнивает происходящий сдвиг, связанный с ИИ, с другими крупными технологическими прорывами и их влиянием на политические кампании на протяжении десятилетий. Когда телевизионная реклама впервые стала использоваться политическими кампаниями, существовали опасения, что она окажет чрезмерное влияние на избирателей, отметил он.

«Это был эффект гиподермической иглы, страх, что реклама на телевидении подобна тому, как шприцем вкалывают сообщения прямо в мозг людей», — сказал он.

Политический организатор и консультант Бретт Тальманн отметил, что ИИ используется кампаниями для разных целей, включая создание контента, анализ данных и определение целевых избирателей. Он основал Next Campaign Summit — ежегодную непартийную конференцию в Торонто, посвящённую новейшим технологиям проведения кампаний, включая инструменты ИИ.

Он также понимает, почему избиратели скептически относятся к ИИ, и сказал, что кампаниям нужно внимательно относиться к раскрытию того, как ИИ используется в их командах.

«Подлинность в политике критически важна, и то, как кампании используют ИИ для создания коммуникационных продуктов и контента, который избиратели видят и с которым напрямую взаимодействуют, это то, к чему кампаниям нужно относиться осторожно», — сказал Тальманн, основатель Nexus Strategic Consultants.

Марланд согласен с этим и отмечает, что технологии не заменят базовые способы, которыми кампании должны выходить на избирателей и убеждать их.

«Реальность такова, что человеческий контакт заменить нельзя, — сказал он. — Неважно, кто вы и как используете ИИ. Нужно выходить на пороги домов, стучать в двери, устанавливать связь с избирателями. Именно так выигрывают кампании».