ИИ выходит на К-стрит: ChatGPT становится лоббистом

Опасения по поводу того, как профессиональные лоббисты искажают политический процесс, не новы. Но новые данные свидетельствуют о том, что их усилия вскоре могут быть подкреплены все более мощным языковым ИИ. Доказательство концепции, проведенное исследователем из Стэнфордского университета, показывает, что технология, лежащая в основе интернет-сенсации ChatGPT, может помочь автоматизировать усилия по влиянию на политиков.

Политические лоббисты тратят много времени на изучение законопроектов, чтобы оценить, соответствуют ли они целям их клиентов, а затем составляют тезисы для выступлений, кампаний в СМИ и писем в Конгресс, призванных повлиять на направление законодательства. Учитывая недавние прорывы в способности сервисов на основе ИИ, таких как ChatGPT , анализировать и генерировать текст, Джон Нэй , научный сотрудник Стэнфордского центра юридической информатики, хотел выяснить, могут ли эти модели взять на себя часть этой работы.

За считанные дни он смог собрать воедино элементарного лоббиста ИИ, использующего большую языковую модель OpenAI GPT-3 (LLM), которая является мозгом ChatGPT. В статье , опубликованной на сервере препринтов arXiv, он показал, что модель способна в 75% случаев предсказать, имеет ли отношение сводка законопроекта Конгресса США к конкретной компании. Более того, ИИ смог затем составить письмо автору законопроекта, в котором аргументировалось внесение изменений в законодательство.

«Процесс законотворчества к этому не готов», — говорит Най. «Это было простое доказательство концепции, созданное за несколько дней. Имея больше ресурсов и больше времени, затраченных на это, особенно с большим вниманием к построению рабочего процесса и пользовательскому опыту, связанному с повседневной работой лоббистов, это, вероятно, может быть встроено во что-то относительно сложное». Подход Ная заключался в подаче модели текстовых подсказок через API OpenAI. Он предоставил модели название законопроекта, краткое изложение законопроекта, темы законопроекта, определенные Исследовательской службой Конгресса, название заинтересованной компании и описание бизнеса, которое фирма подала в Комиссию по ценным бумагам и биржам США. .

Наряду с этим он сказал модели представить, что это лоббист, и использовать предоставленную информацию, чтобы определить, имеет ли счет отношение к компании. Модель также попросили объяснить свои доводы и оценить, насколько она уверена в своем решении из 100. Затем для законопроектов, которые были сочтены релевантными, модели было предложено составить письмо их спонсору (спонсорам), убедив их внести дополнения, благоприятные для законопроекта. рассматриваемая компания.

Най сопоставил данные по 335 счетам, а затем бросил вызов модели, чтобы предсказать, относятся ли они к 121 уникальной компании. Поскольку большая часть законодательства не затрагивает большинство компаний, он обнаружил, что в 70,9% случаев можно угадать правильно, просто всегда говоря «нет». Когда он протестировал этот подход на более старой версии GPT-3, выпущенной в марте 2022 года, она показала себя значительно хуже, обеспечив точность прогноза всего 52,2 процента. Но при испытании на модели GPT-3.5, на которой работает ChatGPT и которая была обнародована только в ноябре 2022 года, она достигла точности 75,1 процента. В счетах, где показатель достоверности был выше 90, точность возросла до 79 процентов.

Газета не пытается оценить, насколько эффективно составленные письма будут влиять на политику, и Най ясно дает понять, что этот подход все еще далек от того, чтобы выполнять основную часть работы лоббиста. Но он говорит, что значительное повышение эффективности прогнозирования, наблюдаемое между моделями, выпущенными с разницей всего в несколько месяцев, заслуживает внимания. «Существует четкая тенденция к быстрому увеличению возможностей, — говорит он.

По словам Ная, это потенциально может создать серьезные проблемы для законодательного процесса. Это могло бы значительно облегчить кампании массового влияния, особенно на местном уровне, и могло бы привести к потоку писем, которые могли бы перегрузить и без того малонагруженные офисы Конгресса или исказить их восприятие общественного мнения. Законы также могут быть полезным ресурсом, помогающим будущим системам ИИ понять ценности и цели человеческого общества, говорит Нэй, но не в том случае, если лоббисты ИИ искажают то, как создаются эти законы.

Невозможно предсказать, как быстро ИИ станет достаточно сложным, чтобы эффективно влиять на процесс лоббирования, говорит известный эксперт по безопасности Брюс Шнайер . Он отмечает, что написание писем, вероятно, не является узким местом здесь, и на самом деле умение понимать политические сети и разрабатывать стратегии влияния на них, вероятно, будет более важными навыками. Но он говорит, что это исследование является признаком грядущих событий. «Это всего лишь маленький шаг в этом направлении, но я думаю, что общество движется именно в этом направлении», — говорит он. И политическое лоббирование — это только один из способов, с помощью которого ИИ может исказить общество в будущем, добавляет он. В новой книге под названием «Разум хакера» , которая выйдет на следующей неделе, Шнайер описывает, как мощные хакеры взламывают все, от законодательного процесса до налогового кодекса и динамики рынка, и он говорит, что ИИ, вероятно, ускорит эти усилия. «Возможностей много, и мы только начинаем их реализовывать», — говорит он. «Закон совершенно к этому не готов».