Подорож етичними полями битв галузі, що перебуває в перехідному періоді
Вінсент Бертьє з організації «Репортери без кордонів» називає це «зброєю проти журналістики». Андерсон Купер, Гейл Кінг та Кларисса Ворд вже стали жертвами. Діпфейки перетворюють надійні обличчя на інструменти дезінформації. Тим часом редакції від Кремнієвої долини до Брюсселя борються за майбутнє професії, яка старша за будь-які технології — і більш крихка, ніж ми могли собі уявити.
Машина розмовляє вашим голосом
Це було відео, яке ніхто не повинен був бачити. Гейл Кінг, шанована ведуча програми CBS Mornings, розповіла прямо в камеру про свій нібито секрет схуднення: «Пані, чесно кажучи, я не очікувала, що моя втрата ваги викличе стільки запитань. Мої особисті повідомлення в Instagram завалені». Її голос звучав знайомо, її обличчя рухалося природно — тільки слова не відповідали рухам її губ. А Гейл Кінг ніколи не записувала відео для дієтичного продукту «Artipet».
«31 серпня я опублікував відео, що рекламує моє радіошоу, і вони підробили мій голос і відео, щоб створити враження, що я його рекламую», – написав Кінг в Instagram. «Я ніколи не чув про цей продукт і не користувався ним! Будь ласка, не дайте себе обдурити цими відео зі штучним інтелектом...»
Досвід Кінг більше не є поодиноким випадком. Діпфейки були спрямовані на журналістів новинних агентств, таких як CNN, CBS, BBC та VOA, які видавали себе за відомих журналістів, таких як Андерсон Купер, Кларісса Ворд та Гейл Кінг. Те, що колись було науковою фантастикою, тепер стало цифровою реальністю: штучний інтелект може не лише писати текст, але й імітувати людські обличчя та голоси настільки ідеально, що навіть експертам важко виявити підробку.
Страшна статистика, що стоїть за цим: За даними DeepMedia, компанії, яка працює над інструментами виявлення, цього року в Інтернеті опубліковано втричі більше відеодіпфейків усіх видів та у вісім разів більше голосових діпфейків порівняно з аналогічним періодом 2022 року.
Але революція штучного інтелекту в журналістиці не обмежується похмурим світом діпфейків. Він пронизує кожен аспект виробництва новин: від автоматизованої генерації статей до персоналізованого курування контенту, від перевірки фактів у режимі реального часу до точної сегментації аудиторії. Питання вже не в тому, чи змінить ШІ журналістику — він це вже робить. Ключове питання: чи зможемо ми контролювати цю трансформацію, чи вона контролюватиме нас?
Європа будує межі майбутнього штучного інтелекту
У той час як Кремнієва долина розробляє системи штучного інтелекту зі швидкістю венчурного капіталу, Європа обрала інший підхід: регулювання перед інноваціями. Регламент ЄС щодо штучного інтелекту (Закон про штучний інтелект) – це перша у світі комплексна правова база для ШІ, яка набуває чинності 1 серпня 2024 року. Але для медіасектору це новаторське досягнення приховує неочікувані пастки.
Професор Наталі Гельбергер критикує Закон про штучний інтелект за те, що він пропонує «загалом менше правових гарантій та менше правових вимог для медіаорганізацій» – помітна прогалина в регулюванні, яке має на меті сприяти розвитку надійного штучного інтелекту.
Проблема редакційного контролю стає центральним інтерпретаційним питанням нашого часу: стаття 50 Регламенту про штучний інтелект вимагає, щоб тексти, створені або маніпульовані штучним інтелектом, опубліковані для публічного інформування з питань, що становлять суспільний інтерес, розкривали, що контент був штучно створений або маніпульований. Але що саме являє собою «редакційний контроль»? І коли споживачі повинні бути чітко поінформовані про участь штучного інтелекту?
Відповіді на ці питання – це більше, ніж просто академічні причіпки. Вони визначають не що інше, як майбутнє правди в демократичних суспільствах.
Агнес Стенбом, галузева експертка, застерігає: медіаорганізації не повинні повністю покладатися на Закон про штучний інтелект, особливо враховуючи, що він все ще перебуває на стадії розробки, а радше прагнути діалогу та співпраці між собою для пошуку спільних рішень.
Алгоритми упередженості
За сліпучими обіцянками революції штучного інтелекту криється похмура правда: алгоритми об'єктивні лише настільки, наскільки об'єктивні люди, які їх програмують, і дані, на яких вони навчаються. Упередженість – систематичне спотворення – ось привид, який переслідує редакції Європи.
Нещодавній аналіз 14 наукових публікацій визначив упередженість як найпоширенішу етичну проблему щодо впровадження технологій генеративного штучного інтелекту в медіаорганізаціях. Ці упередження проявляються в різних, часто ледь помітних формах:
- Упередженість вибору тем новин: Які історії класифікуються алгоритмами як «важливі»?
- Упередженість підтвердження, спричинена алгоритмічними системами рекомендацій: Чи підсилюють системи штучного інтелекту існуючі ехо-камери?
- Демографічні спотворення: Чиї голоси чуються, а чиї ігноруються?
Конкретний приклад з практики: Якщо систему штучного інтелекту було навчено переважно на текстах білих журналістів-чоловіків із західних країн, вона вважатиме цю точку зору «нормальною» та систематично недооцінюватиме або неправильно інтерпретуватиме інші точки зору.
Населення Німеччини особливо скептично ставиться до цього аспекту. Репрезентативне дослідження, проведене Монітором думок про штучний інтелект (MeMo:KI) за участю 1035 учасників, показало, що використання штучного інтелекту в редакціях сприймається дуже критично. Респонденти не бачать значного покращення якості журналістської роботи завдяки штучному інтелекту, і більшість виступає за суворе регулювання.
Паризька хартія: маніфест виживання
У листопаді 2023 року 32 експерти з 20 країн зібралися в Парижі, щоб створити те, що багато хто вважав неможливим: глобальний етичний консенсус щодо штучного інтелекту в журналістиці. Під головуванням лауреатки Нобелівської премії миру та журналістки Марії Ресса комісія розробила Паризьку хартію про штучний інтелект та журналістику — перший міжнародний етичний орієнтир такого роду.
Марія Ресса терміново попереджає: «Штучний інтелект може надати людству чудові послуги, але він явно має потенціал для збільшення маніпуляцій розумом у масштабах, небачених раніше в історії».
Хартія встановлює десять основних принципів, які мають служити компасом крізь етичні бурі революції штучного інтелекту:
- Етика повинна керувати технологічними рішеннями в медіа
- Прийняття рішень людиною має залишатися в центрі редакційних рішень
- Медіа повинні допомагати суспільству розрізняти автентичний та синтетичний контент
- ЗМІ повинні брати участь у глобальному управлінні ШІ
«Як важливі охоронці права на інформацію, журналісти, засоби масової інформації та групи підтримки журналістів повинні відігравати активну роль в управлінні системами штучного інтелекту», – йдеться в хартії.
Але одних лише гарних слів недостатньо. Справжній виклик полягає у впровадженні, а також у питанні, чи зможе галузь, яка вже бореться за своє економічне виживання, зібрати ресурси та волю, щоб надати пріоритет етичним стандартам над короткостроковим підвищенням ефективності.
Німецькі ЗМІ в експерименті зі штучним інтелектом
Поки міжнародні дебати вирують, німецькі медіакомпанії вже експериментують із майбутнім. Видавництво «Шпігель» вважається піонером і вже багато років використовує штучний інтелект у різних редакційних програмах: від дубляжу та транскрипції тексту до оцінки внеску користувачів. Особливо інноваційним було використання генераторів зображень, таких як Midjourney, для обкладинок на тему «Кінець правди» – за умови суворої прозорості для користувачів.
Рейтер Німеччина обрали інший підхід: за допомогою «Fact Genie» вони розробили власний інструмент, який сканує прес-релізи за лічені секунди та пропонує заголовки редакційній команді. Однак Сабіна Воллраб, керівник бюро Reuters у Німеччині, Австрії та Швейцарії, наголошує: «Довіра — один із наших козирів. Reuters — дуже надійний бренд. І ми не хочемо видавати це за штучний інтелект».
Frankfurter Allgemeine Zeitung показує, як може виглядати вибіркова інтеграція штучного інтелекту: вона використовує штучний інтелект спеціально для оптимізації цифрового бізнесу, дубляжу, транскрипції та архівування, але категорично виключає оригінальні матеріали з текстом, згенерованим штучним інтелектом.
The Рейнський постПомічник на базі штучного інтелекту обробляє дзвінки клієнтів цілодобово та зробив компанію одним із найефективніших операторів кол-центрів у медіаіндустрії, повідомляє Маргрет Зегер, директор з цифрових видань та керівник відділу штучного інтелекту в Rheinische Post Media Group.
Галюцинації машин
Мабуть, найтривожнішою характеристикою сучасних систем штучного інтелекту є їхня схильність до «галюцинацій» — генерування правдоподібної, але фактично невірної інформації. Ця схильність фундаментально ставить під сумнів основні журналістські принципи, такі як правдивість і точність.
Недавній приклад: У грудні кореспондентка CNN Кларісса Ворд з'явилася на телебаченні на 12 хвилин, щоб повідомити, що вона зустріла в'язня у столиці Сирії, Дамаску, після повалення диктатора Башара Асада. Він стверджував, що його звали Адель Гурбал, але фахівці з перевірки фактів встановили, що його справжнє ім'я — Салама Мохаммед Салама, який насправді був лейтенантом у військово-повітряних силах Асада.
Цей приклад показує, що межі між людською помилкою та машинною дезінформацією розмиваються. Проблема посилюється тим фактом, що відповідальність за несправний контент, створений штучним інтелектом, залишається неясною з юридичної та етичної точки зору.
У зв'язку з цим Німецька рада преси уточнила, що Кодекс преси застосовується без обмежень до контенту, створеного за допомогою штучного інтелекту, і що редакційна відповідальність залишається за людьми. Але що це означає на практиці, якщо система штучного інтелекту створює дезінформацію, яку перевантажений редактор не встигає вчасно виявити?
Боротьба за інтелектуальну власність
За етичними дебатами вирує запекла економічна війна: питання авторського права. Багато видавців скаржаться, що їхні статті використовувалися для навчання моделей ШІ без дозволу, що порушує як правові, так і етичні питання. Національна спілка журналістів (NUJ) прямо заявила, що її члени не дозволяють використання своїх творів, захищених авторським правом, для навчання ШІ.
Фелікс Саймон, дослідник Оксфордського інтернет-інституту, виявив «знайомий дисбаланс сил» між видавцями новин та технологічними компаніями, який посилюється впровадженням штучного інтелекту. Медіакомпанії, які десятиліттями створювали контент, тепер опинилися в ситуації, коли їхня робота використовується без жодної компенсації для навчання систем, що потенційно може зробити їх застарілими.
Це парадокс кафкіанського масштабу: індустрія, яка має демократизувати інформацію, перебуває під загрозою з боку власного виробництва.
Робота в епоху алгоритмів
Занепокоєння щодо робочих місць не є безпідставними. Нещодавнє опитування медіа-фахівців показало, що 57,2% журналістів побоюються, що штучний інтелект замінить більше робочих місць у найближчі роки. Вже 21% опитаних журналістів повідомляють про втрату роботи через впровадження штучного інтелекту.
Шокуючий приклад з Польщі: Польська радіостанція OFF Radio Krakow викликала міжнародний резонанс у жовтні 2024 року, звільнивши близько десятка журналістів та замінивши їх ведучими, створеними за допомогою штучного інтелекту. Станція навіть транслювала «інтерв’ю» з покійною лауреаткою Нобелівської премії Віславою Шимборською, яка померла у 2012 році.
Матеуш Демський, звільнений журналіст, запустив петицію проти «заміни працівників штучним інтелектом». Петицію підписали понад 23 000 людей. Всього через тиждень інтенсивних протестів мовник скасував запланований тримісячний «експеримент» — рідкісний випадок громадського опору скасування впровадження ШІ.
Але страх глибший, ніж просто проблеми з роботою. Цей розвиток подій йде пліч-о-пліч із більш фундаментальним занепокоєнням щодо втрати людської ідентичності та автономії в журналістиці, яке висловили понад 60% респондентів.
Що означає для демократії, коли голоси, які інформують її громадян, більше не є людськими?
Громадська довіра: порушений суспільний договір?
Німецька громадськість реагує з помітним скептицизмом на революцію штучного інтелекту в медіа. Звіт Reuters Institute Digital News Report 2024 підтверджує цю тенденцію: половина німецьких респондентів відчуває дискомфорт від новин, що переважно генеруються штучним інтелектом.
Особливо варто відзначити: Навіть молоді люди, які загалом більш відкриті до новин, створених штучним інтелектом, ставляться до політичної інформації з джерел, створених штучним інтелектом, з таким самим скептицизмом, як і старші респонденти.
Тривожний висновок показує, що люди загалом не довіряють джерелам новин — незалежно від того, чи була стаття написана штучним інтелектом, чи журналістом-людиною. Це вказує на глибшу кризу довіри, яка виходить далеко за рамки дискусії про ШІ.
Центральне питання: Чи можуть ЗМІ повернути довіру, ставши більш прозорими щодо використання ШІ, чи ж прозорість парадоксально посилює недовіру?
Міжнародні перспективи: уроки світу
В Індонезії пропонує редакціям цінну інформацію про проблеми напівавтоматизованої журналістики. Огляд літератури за останні п'ять років показав, що хоча штучний інтелект може підвищити ефективність, існують значні недоліки в якості контенту. Дослідження наголошує на необхідності навчання журналістів відповідальному використанню штучного інтелекту.
У США Комплексне дослідження, проведене Центром цифрової журналістики Тоу при Колумбійському університеті, в якому опитали понад 130 журналістів з 35 медіакомпаній, показує, що відкритість до технологій штучного інтелекту зумовлена не лише технічними вдосконаленнями, а й тиском ринку та надією на нові бізнес-моделі.
Урок: Впровадження штучного інтелекту — це не суто технічне явище, а глибоко економічне та культурне.
Майбутні перспективи: Наступний етап еволюції
Флоріан Шмідт з команди перевірки фактів Американської художньої асоціації (APA) прогнозує, що зображення та відео, створені штучним інтелектом, навряд чи можна буде розпізнати як такі протягом кількох місяців. Наукова журналістка Ранга Йогешвар попереджає, що «вперше в історії людства мова більше не є людською монополією».
Цей розвиток подій має фундаментальні наслідки для демократії, економіки та юриспруденції. Якщо справжнє спілкування більше не можна відрізнити від синтетичного, ми повинні переосмислити всі наші системи пошуку істини.
Дехто оцінює, що до 2026 року до 90% онлайн-контенту може бути згенеровано синтетичним шляхом. У такому світі роль журналістики не зникне — вона докорінно зміниться, ставши куратором автентичності в океані синтетичного.
Рекомендації щодо дій: Компас крізь бурю
Конкретні рекомендації щодо дій можна отримати з міжнародного досвіду та наукових висновків:
Для медіакомпаній:
- Впровадження суворих стандартів прозорості: Будь-яке використання штучного інтелекту має бути чітко позначено
- Інвестиції в освіту: Безперервне навчання журналістів використанню штучного інтелекту
- Етичні рамки: Розробка внутрішніх інструкцій щодо використання штучного інтелекту
- Людина в циклі: Забезпечення людського контролю над усіма редакційними рішеннями
Для регуляторів:
- Роз'яснення Закону про штучний інтелект: Уточнення термінів «редакційний контроль» та зобов’язань щодо прозорості
- Міжнародна координація: Співпраця у розробці глобальних стандартів
- Механізми забезпечення виконання: Ефективне забезпечення виконання чинних правил
Для суспільства:
- Медіаграмотність: Навчання розпізнаванню контенту, створеного штучним інтелектом
- Критична усвідомленість: Ставлення під сумнів джерела інформації
- Підтримка високоякісних медіа: Усвідомлені рішення споживачів
Епілог: Момент рішення
Ми перебуваємо на історичному поворотному моменті. Тривалий період імплементації Закону ЄС про штучний інтелект до 2027 року може виявитися проблематичним, оскільки шкода, завдана нерегульованим використанням штучного інтелекту, може стати незворотною.
Майбутнє журналістики визначатиметься не тим, чи використовуватиметься штучний інтелект, а тим, наскільки відповідально та етично буде здійснено цю інтеграцію. Розробка чітких етичних принципів, постійне навчання медіа-фахівців та підвищення обізнаності громадськості мають вирішальне значення для підтримки суспільної довіри та забезпечення демократичної функції журналістики.
Вінсент Бертьє з організації «Репортери без кордонів» підсумував це: Діпфейки – це «зброя проти журналістики», оскільки вони підривають довіру до ЗМІ та використовують їхню надійність для дезінформаційних цілей.
Іронія історії: технологія, яка обіцяла забезпечити нас безмежними знаннями, може сповістити про кінець істини. Усі ми — журналісти, технологи, регулятори та громадяни — повинні забезпечити, щоб цього не сталося.
Битва за майбутнє правди розпочалася. На чиєму ви боці?
Ця стаття базується на всебічному аналізі сучасних академічних досліджень, галузевих звітів та міжнародних регуляторних підходів. Усі джерела були перевірені та узгоджені з сучасними розробками.
Ресурси та додаткові посилання
Європейське регулювання:
- Закон ЄС про штучний інтелект – Офіційне регулювання
- Наслідки Закону про штучний інтелект для ЗМІ – AlgoSoc Panel
- Положення про прозорість у Законі про штучний інтелект – Огляд інтернет-політики
Міжнародні стандарти:
- Паризька хартія про штучний інтелект та журналістику – Репортери без кордонів
- Керівні принципи відповідального впровадження штучного інтелекту – Рада Європи
Проблема з діпфейком:
- Діпфейки як зброя проти журналістики – Голос Америки
- Інциденти з діпфейками знаменитостей – Інститут Пойнтера
Німецький медіаландшафт:
- Інтеграція ШІ в німецькі ЗМІ – WAN-IFRA
- Німецька рада преси з питань штучного інтелекту – Newsroom.at
Міжнародні тематичні дослідження:
- Експеримент зі штучним інтелектом польської радіостанції – CNN Business
- Впровадження штучного інтелекту в редакціях США – Лабораторія Німана
