Искусственный интеллект развивается быстрее, чем законодатели успевают реагировать на связанные с ним риски для прав человека. Joint Committee on Human Rights (JCHR) парламента Великобритании призвал правительство подготовить законопроект об ИИ. Разбираемся, что именно предлагают парламентарии.
Почему ИИ стал новой зоной риска для прав человека
Искусственный интеллект все глубже проникает в разные сферы. В глобальном исследовании McKinsey, проведенном в мае–июне 2026 года среди 1719 представителей организаций из 97 стран, 89% респондентов сообщили о регулярном использовании ИИ хотя бы в одной бизнес-функции.
Алгоритмы используют для отбора кандидатов, оценки заемщиков, назначения социальных выплат, постановки медицинских диагнозов и распознавания лиц. Ошибка или предвзятость системы в этих сферах может привести к дискриминации, нарушению конфиденциальности или отказу в услуге. При этом пользователю зачастую трудно понять, почему система приняла конкретное решение и как его обжаловать.
Доклад JCHR: главные выводы
Бурное развитие ИИ заставляет государства искать способы его регулирования. Например, в Евросоюзе действует единый AI Act, а в России с 1 сентября 2026 года — Федеральный закон № 243-ФЗ о поддержке развития технологий ИИ. В Великобритании общего закона нет: надзор распределен между отраслевыми ведомствами, хотя власти стремятся ускорить внедрение технологии.
Еще в июле 2025 года JCHR — Объединенный комитет по правам человека — начал изучать, достаточно ли действующие нормы защищают граждан от дискриминации и несправедливых автоматизированных решений. Итоги расследования комитет представил в докладе от 14 сентября 2026 года.
Главный вывод JCHR — нынешние британские законы не учитывают весь жизненный цикл систем ИИ. Основная ответственность ложится на компанию или государственное учреждение, внедрившее продукт. При этом источник проблемы может находиться в обучающих данных, архитектуре модели или решениях разработчика.
Установить ответственного сложно и из-за устройства технологической цепочки. В создании продукта участвуют поставщики данных, разработчики базовых моделей, создатели прикладных решений и организации, которые их используют. Действующие нормы не требуют, чтобы все участники заранее выявляли и снижали риски.
Какие угрозы перечисляет комитет
JCHR описывает три основных риска для прав человека:
- Дискриминация. Если отдельные группы людей недостаточно представлены в данных для обучения, система может чаще ошибаться при работе с ними. В докладе описан случай курьера Uber Eats, который не мог войти в рабочее приложение, так как система распознавания лиц хуже идентифицировала темнокожих пользователей.
- Нарушение конфиденциальности. Для обучения моделей используется информация из открытых источников, в том числе публикации, фотографии и другие сведения, формирующие цифровой след человека. Так в датасеты попадают и персональные данные. К тому же ИИ может сопоставлять несколько баз и устанавливать личность пользователя даже по данным, которые считались анонимными.
- Невозможность оспорить решение. Пользователь может не знать, что ИИ применялся при назначении пособия или, например, оценке сотрудника. Организация не всегда способна объяснить, что повлияло на результат. Поэтому пострадавшему сложно найти ответственного и реализовать право на пересмотр решения.
Среди других угроз JCHR называет сексуализированные дипфейки, клонирование голоса без согласия исполнителя, вымышленные судебные решения в сгенерированных документах и опасные советы чат-ботов уязвимым пользователям.
Не дайте мошенникам использовать ИИ против вас
С помощью ИИ злоумышленники создают убедительные сообщения, поддельные сайты и вредоносные файлы. Kaspersky Premium проверяет ссылки и загружаемые объекты, блокирует фишинговые страницы и помогает защитить личные данные. Для обнаружения угроз решение использует в том числе технологии машинного обучения.
Попробовать Kaspersky Premium бесплатноЧто предлагает комитет по правам человека
JCHR предлагает принять единый для всех отраслей закон об искусственном интеллекте, который должен:
- распределить обязанности между разработчиками, поставщиками и организациями, использующими ИИ;
- запретить скрытое воздействие на поведение, распознавание эмоций и ненадлежащее использование биометрии;
- обязать компании сообщать о применении ИИ, объяснять его задачи и раскрывать источники данных;
- создать независимый надзорный орган с полномочиями проводить проверки, назначать санкции и отзывать опасные продукты;
- закрепить статус Института безопасности ИИ и обязать разработчиков передавать ему мощные модели для тестирования.
Что говорят разработчики ИИ
Пока государства ищут способы регулирования ИИ, представители отрасли предупреждают, что возможности систем растут быстрее, чем меры безопасности.
Так, в сентябре 2026 года Джейкоб Коксон, который три года занимался исследованиями в области предобучения моделей в OpenAI и Anthropic, заявил об уходе из индустрии. По словам Коксона, обе компании рискуют жизнями людей, стремясь создать ИИ, способный самостоятельно улучшаться. Исследователь предложил лабораториям договориться о темпах работы, а при необходимости — временно прекратить улучшать модели.
Вскоре глава Anthropic Дарио Амодеи призвал замедлить гонку ИИ. По его мнению, неконтролируемое развитие технологий повышает риск потери контроля над ИИ, его использования для кибератак и биотерроризма, а также экономических потрясений. Амодеи предложил ввести общие стандарты безопасности и заключить международные соглашения по наиболее опасным способам применения искусственного интеллекта.
Инициативу поддержали руководители других компаний. Глава OpenAI Сэм Альтман заявил, что независимые проверки необходимы, и пообещал предоставить экспертам расширенный доступ к системам OpenAI. Илон Маск согласился с Амодеи, а затем предложил начать со взаимной проверки разработок конкурирующими компаниями.
Что дальше
Доклад JCHR пока не меняет британские законы. Правительство должно ответить на рекомендации комитета в течение двух месяцев. После этого станет ясно, появится ли отдельный законопроект об ИИ.
На общее замедление отрасли рассчитывать пока не приходится. Например, Дональд Трамп отверг призывы приостановить разработки и заявил: «Кто победит в ИИ, тот победит» (Whoever wins AI wins). Хотя президент допустил отдельные меры контроля, приоритетом США остается лидерство в гонке с Китаем — этот курс закреплен и в официальном плане развития ИИ.
Поэтому, скорее всего, два процесса будут идти одновременно. Компании продолжат создавать все более мощные модели и ИИ-агентов, а государства — вводить требования к прозрачности и ответственности разработчиков. Регулирование будет различаться от страны к стране и затрагивать прежде всего наиболее рискованные сценарии применения ИИ, а не останавливать развитие технологии целиком.
Ответственность остается за людьми
Какими бы сложными ни становились системы ИИ, сами они не отвечают за последствия своей работы. Поэтому задача регулирования — определить, кто обязан предотвращать вред и как пользователь сможет оспорить автоматическое решение.
При этом законы не устранят все риски. Модели меняются быстрее, чем принимаются нормативные акты, поэтому потребуются независимые проверки, понятные правила и регулярный пересмотр требований. Пока эти механизмы только формируются, пользователям стоит осторожнее делиться личными данными с ИИ и не полагаться на алгоритмы там, где ошибка может повлиять на безопасность, деньги или права.
Полезные статьи:
- Что такое ChatGPT и безопасно ли им пользоваться?
- Что такое дипфейки и как защитить себя
- ИИ-фишинг: как мошенники используют искусственный интеллект, чтобы обмануть вас
- ИИ-агенты: откуда шумиха вокруг OpenClaw и есть ли угроза для персональных данных?
Рекомендуемые продукты:
