Военный рупор Китая подчеркнул «опасности подхалимов ИИ» — когда системы искусственного интеллекта изменяют факты в соответствии с предвзятостью пользователей — и призвал к действиям, чтобы предотвратить это вред операциям Народно-освободительной армии.
Статья в PLA Daily во вторник отметила, что тенденция моделей ИИ учитывать предпочтения пользователей — даже поддерживая явные ошибки в ущерб объективным фактам — представляет собой «серьёзную угрозу» в то время, когда военные больше полагались на автоматизированные системы.
«Опасности подхалимажа ИИ в военной сфере значительно превосходят повседневную жизнь, вызывая системную эрозию оперативных когнитивных цепочек, качества командных решений и устойчивости сотрудничества человека и машины», — говорится в статье.
Военные Китая заявили, что ИИ используется на нескольких платформах вооружения, включая беспилотные системы вооружения. НОАК рассматривает эту технологию как ключевую область конкуренции с США и другими армиями.
Однако Пекин также неоднократно заявлял, что ИИ не должен заменять людей в принятии решений на поле боя.
Согласно статье PLA Daily, подхалимство ИИ — вызванное алгоритмическими механизмами обучения и человеческими обратными связями — может усиливать предубеждения пользователей создавать «информационные коконы» и подтверждать заранее определённые решения, искажая оценки и игнорируя альтернативы.
В ней отмечалось, что по мере быстрой интеграции генеративного ИИ в принятие военных решений — включая командование и управление, оценку разведки и оперативные военные игры — эти поведенческие предвзятости увеличат вероятность тактических и стратегических ошибок, а также потерь и сопутствующего ущерба.
В статье предупреждалось, что, усиливая предвзятости и скрывая риски, подхалимское поведение приведёт к меньшему контролю и перекрёстной проверке со стороны людей, постепенно подрывая способность военных выявлять проблемы, исправлять ошибки и отвергать вводящую в заблуждение информацию.
«Этот скрытый обман ... может тихо подорвать независимое суждение и стратегическую решимость командира, представляя собой когнитивное «мягкое оружие», требующее срочной бдительности на интеллектуальном поле боя», — говорится в статье.
Он предусматривал создание комплексной сети для противодействия этой уязвимости — от коррекции алгоритмов до институциональных механизмов и обучения.
В статье также подчеркивалась важность приоритета правды, объективности и объяснения для военных моделей ИИ и призывалась проверять их фактическую точность под давлением и тренировки «противоподхалимов» перед их внедрением.
В них отмечается, что в критических ситуациях, таких как принятие решений командования или оценка разведки, для ИИ должно быть обязательно представлять свою основную гипотезу, контрдоказательства, альтернативные сценарии, границы риска и проверяемые цепочки доказательств.
Кроме того, в компании говорится, что многомодельная перекрёстная проверка, враждебные военные игры и проверка по принципу человека в цикле должны стать стандартной практикой.
В статье также рекомендовалось развивать критическое мышление среди военнослужащих, чтобы предотвратить чрезмерную зависимость от автоматизированных систем и обеспечить проявление стратегического суждения и чувства ответственности как высшей власти в автоматизированной войне.
Лю Чжэнь
(в пересказе)
Мнение авторов может не совпадать с мнением редакции
Сообщество журналистов Non profit
No comments :
Post a Comment