Мы не доверяем журналистам только потому, что они печатают предложения; Мы доверяем журналистам, потому что они подтверждают правду. (SCMP)
По всему миру новостные организации стремятся создать правила для искусственного интеллекта. Редакторы спорят, могут ли репортёры использовать ИИ для составления текста, резюме документов или помощи в исследованиях. Некоторые издания обещают читателям, которые раскроют, когда машина помогает написать статью. Другие надеются, что доверие придёт за счёт полного избегания ИИ.
Но этот спор начинается с ошибочного предположения: журналистика заслуживает доверие, потому что журналисты сами пишут предложения.
Это никогда не было причиной, по которой общественность доверяет журналистам. Читатели доверяют журналистике, потому что кто-то взял на себя ответственность за определение правдивости публикуемой информации.
Рассмотрите архитектора. Современные здания проектируются с использованием программного обеспечения, такого как AutoCAD, которое генерирует точные чертежи и структурные модели. Мы не доверяем зданию, потому что архитектор провел каждую границу вручную. Мы доверяем ей, потому что обученный специалист знает, выдержит ли конструкция. Программное обеспечение создаёт планы; Архитектор подтверждает реальность.
Журналистика работает так же. Письмо — это документирование. Верификация — это профессия.
ИИ теперь может мгновенно генерировать свободный язык. Он может создавать резюме, объяснения и даже целые статьи. Но оно не может определить, является ли утверждение фактически истинным. Системы ИИ генерируют текст, предсказывая закономерности в языке, а не устанавливая факты.
Заменит ли ChatGPT репортёров?
Настоящий риск ИИ в журналистике — это не тайное авторство, а непреднамеренная выдумка.
Во время моих исследований по ИИ и отчетности в Университете штата Кеннесо я задокументировал, как генеративный ИИ ведёт себя в процессе отчётности. Системы часто создают уверенные неточности: цитаты, которых не существует, цитаты, которые никогда не были произнесёны, и фактические связи, которые кажутся правдоподобными, но не подтверждаются. Проблема не в преднамеренном обмане в журналистском процессе. Проблема в том, что информация выглядит достоверно, что может нарушить журналистский процесс и позволить ошибкам попасть в публичные записи.
ИИ не просто создаёт контент; Без ограничений он может вносить информацию в сам исследовательский процесс. И эта информация может быть как правдой, так и нет. Журналист может столкнуться с утверждением, которое выглядит как проверенный источник, но на самом деле является лингвистическим предсказанием. Без тщательной проверки этот материал может попасть в публикацию.
В таких случаях никто не собирался публиковать ложь, но ложь попадает в публичные документы. Проблема не в том, что технологии помогли в процессе черчения; Проблема в том, что проверка реальности не была представлена как истинная работа журналиста.
Вот почему дебаты о том, могут ли журналисты использовать ИИ для «написания» историй, упускают из виду настоящую проблему. Журналистика включает два вида труда. Первая — это составление: организация заметок, структурирование предложений и чёткая подача информации. Вторая — это работа со знаниями: подтверждение источников, подтверждение доказательств и принятие ответственности за точность.
ИИ влияет на первое. Это дестабилизирует второе. Как и AutoCAD, генеративный ИИ может помочь в процессе составления и даже ускорить производственные сроки для журналистики. Но ИИ не может самостоятельно проверить правдивость утверждения. Работа со знаниями должна оставаться прерогативой человеческого журналиста.
Понимание этого разделения труда проясняет этическую политику. Одни правила раскрытия информации не решают проблему. Важно не то, кто составил предложение, а кто подтвердил утверждение.
В Университете штата Кеннесо моя коллега доктор Джин Ло разработала инструмент, который она называет «Этическое колесо подсказок» — четырёхэтапный процесс эффективного и ответственного использования ИИ в процессе написания. Идея проста: знать свои данные до подсказки, прочитать и отредактировать все результаты, а также проверить весь сгенерированный контент на полезность, релевантность, точность и безвредность перед включением его в черновик. На практике это означает знание предмета до использования любого инструмента ИИ, критическое чтение результатов, независимую проверку каждого утверждения и переписывание материалов перед публикацией.
Этот процесс рассматривает все результаты ИИ как непроверенную информацию. Как я узнал в своих экспериментах с использованием ИИ в процессе репортажей, я могу использовать генеративный ИИ как журналист в процессе написания, но каждое фактическое утверждение должно быть вручную проверено с человеческим источником или первичным документом, прежде чем оно станет частью моего материала.
Такой подход не ослабляет роль журналиста; Это укрепляет её. Ценность журналиста заключается не в том, чтобы печатать быстрее машины, а в принятии ответственности. Общественности не нужны люди, потому что машины не могут составлять предложения. Общественности нужны люди, потому что кто-то должен стоять за правдой этих фраз.
Последствия выходят за рамки журналистики. Юристы, использующие искусственный интеллект для подготовки меморандумов, должны подтверждать цитаты. Врачи, использующие ИИ для краткого содержания медицинских записей, должны проверять диагнозы. Компании, использующие ИИ для маркетинга, должны проверять, не искажает ли сгенерированный текст товары или цены. Во всех областях закономерность одинаковая: генерация языка может быть автоматизирована, но ответственность — нет.
Некоторые организации надеются, что доверие придёт из того, что ИИ остаётся последним местом, не затронутым ИИ. Тем не менее, читатели всё чаще сталкиваются с информацией, сгенерированной ИИ, через поисковые системы, автоматические обзоры и разговорные интерфейсы ещё до того, как попадут в любую публикацию. Внутреннее избегание использования ИИ не мешает информации, основанной на ИИ, доходить до широкой публики.
Конкурентное преимущество надёжных учреждений не будет в отсутствии технологий. Это будет видимая проверка.
В эпоху, когда язык можно создавать мгновенно, доверие будет зависеть меньше от авторства и больше от ответственности. Журналистика — это не создание предложений. Это профессиональное подтверждение реальности.
Искусственный интеллект не заставляет журналистику защищать письмо. Это заставляет журналистику заново найти своё предназначение.
Мэтт Террелл
(в пересказе)
Мнение авторов может не совпадать с мнением редакции
Некоммерческое сообщество журналистов Некоммерческая организация
ТГ-канал Божественный ветер t.me/ValeriusRu
No comments :
Post a Comment