Историк и профессор Гарвардского университета Джилл Лепор предложила взглянуть на развитие искусственного интеллекта не только как на технический, но и как на политический процесс. В беседе с технологическим изданием она объяснила, почему передача общественных функций вычислительным системам способна ослабить демократические институты.
Главная опасность, по мнению исследовательницы, заключается не в самих машинах. Проблема возникает, когда частные компании получают возможность незаметно влиять на решения, общественные настроения и доступ людей к информации.
Искусственный интеллект и государство: в чем заключается угроза?
Лепор называет складывающуюся систему «искусственным государством». Это цифровая среда, в которой политические решения, общение с гражданами и распределение информации все сильнее зависят от данных и автоматических механизмов.
Разработчики обещают, что искусственный интеллект сделает государственное управление быстрее, точнее и дешевле. Однако эффективность не заменяет ответственность. Избиратель может не согласиться с решением чиновника, потребовать объяснений или добиться его пересмотра. Закрытая вычислительная система нередко оставляет человека без понятного ответа и возможности возражения.
Влияние ИИ на политику: почему удобство не равно демократии?
Автоматизация способна помочь государству обрабатывать обращения, искать ошибки в документах и прогнозировать нагрузку на учреждения. Но она становится опасной, если машине фактически передают право определять, кому полагается помощь, какое мнение заслуживает внимания или какое решение считается общественно полезным.
В таком случае гражданин постепенно превращается в набор показателей. Его интересы оцениваются не через открытое обсуждение, а через цифровой профиль. При этом правила обработки сведений устанавливают компании, которые не избирались обществом и не несут перед ним прямой ответственности.
Риски искусственного интеллекта: чему учит научная фантастика?
Лепор считает, что руководители Кремниевой долины часто воспринимают научную фантастику слишком буквально. Предупреждения писателей о власти машин они превращают в описание желаемого будущего.
В качестве примера историк приводит рассказ Эдварда Моргана Форстера «Машина останавливается», опубликованный еще в 1909 году. В нем человечество полностью доверяет огромной технической системе, теряет самостоятельность и оказывается беспомощным после ее отказа. Для Лепор это не руководство по строительству нового общества, а напоминание о цене чрезмерной зависимости от техники.
Регулирование искусственного интеллекта: что необходимо сделать?
Применение ИИ в государственном управлении должно сопровождаться понятными ограничениями:
человек должен знать, когда решение принято с участием вычислительной системы;
государство обязано объяснять логику такого решения;
гражданину необходимо предоставить право на пересмотр;
важные сведения нельзя бесконтрольно передавать частным компаниям;
окончательная ответственность должна оставаться за конкретным должностным лицом.
Экспертный вывод
Искусственный интеллект полезен как помощник, но опасен как невидимый управляющий.
Рекомендация: внедрять такие системы только вместе с независимой проверкой, открытыми правилами и обязательным человеческим контролем. Технология должна укреплять право гражданина на выбор и объяснение, а не подменять его удобным для системы расчетом.