Теодор чітко пам'ятає «помії» контенту, згенерованого штучним інтелектом, які стали останньою краплею.
На знімку зображено двох худих, надзвичайно бідних дітей з Південної Азії.
З якоїсь причини, попри хлоп'ячі риси обличчя, у них густі бороди.
В однієї дитини немає рук і лише одна нога.
Інший тримає картонку з написом «у нього день народження» та просить лайки для фотографії.
З абсолютно незрозумілої причини вони сидять посеред жвавої вулиці, під проливним дощем, а перед ними — іменинний торт.
На зображенні є багато очевидних ознак того, що воно було створено за допомогою штучного інтелекту (ШІ).
Однак, він став вірусним у Facebook та зібрав майже мільйон лайків і смайликів у формі серця.
Раптом щось зламалося в Теодорі.
«Я був приголомшений».
«Абсурдні зображення, створені за допомогою штучного інтелекту, з'явилися у Facebook і отримали величезну увагу, без жодних сумнівів щодо їхньої правдивості».
«Це було для мене божевіллям», — каже 20-річний студент з Парижа.
Ось чому Теодор відкрив обліковий запис на X, раніше у Twitter, під назвою Insane AI Slop, де почав критикувати та висміювати контент, який вводить людей в оману.
Інші помітили це, і його поштову скриньку невдовзі завалили повідомленнями від людей, які надсилали йому приклади популярного, так званого «поганого» контенту, створеного за допомогою штучного інтелекту.
«Помийки» – це дуже низькоякісний цифровий контент, масово вироблений за допомогою штучного інтелекту, який зазвичай є абсурдним, дивним та фальшивим, і дуже швидко стає вірусним.
- Люди чи штучний інтелект: як дізнатися, з ким ви розмовляєте
- Егі, Нео, Ісаак та Мемо — домашні роботи, чи дозволили б ви їм помити ваш посуд?
- Grok, інструмент штучного інтелекту Ілона Маска, більше не хоче «роздягати» людей
Виділено звичні теми – релігія, військові та бідні діти, які роблять зворушливі речі.
«Діти з країн третього світу, які роблять щось вражаюче, завжди досягають успіху».
«Скажімо, бідна дитина в Африці, яка робить неймовірну скульптуру зі сміття».
«Я думаю, що люди вважають це щирим і теплим, тому творці думають: «Чудово, давайте вигадаємо більше таких речей», — каже Теодор.
Його акаунт невдовзі отримав понад 133 000 підписників.
Потік «нечистого» контенту, згенерованого штучним інтелектом, який він визначає як фальшиві, непереконливі відео та фотографії, створені швидко та масово, тепер здається непереборним, оскільки технологічні компанії повністю прийняли штучний інтелект.
Деякі з цих компаній стверджують, що почали боротися з певними типами «непотребного» контенту, створеного штучним інтелектом, хоча соціальні мережі, здається, все ще повні таких зображень і відео.
Всього за кілька років досвід користування соціальними мережами сильно змінився.
Як це сталося і який вплив це матиме на суспільство?
І, мабуть, найголовніше, наскільки насправді мільярди користувачів соціальних мереж переймаються цим?
«Третя фаза» соціальних мереж
У жовтні, під час чергової захопленої промови про результати компанії, Марк Цукерберг, генеральний директор Meta, радісно заявив, що соціальна мережа вступила в третю фазу, яка зосереджена на застосуванні штучного інтелекту.
«Перший етап був, коли весь контент створювали друзі, родина та облікові записи, на які ви підписалися безпосередньо».
«Другий виник, коли ми додали контент для авторів».
«Тепер, оскільки штучний інтелект спрощує створення та курування контенту, ми додамо ще один величезний обсяг контенту», – сказав він акціонерам.
Meta, яка керує Facebook, Instagram та Threads, не лише дозволяє публікувати контент, згенерований штучним інтелектом, але й надає продукти, що дозволяють створювати більше такого контенту.
Тепер користувачам у всьому світі пропонуються генератори зображень та відео, а також дедалі потужніші фільтри.
На прохання BBC прокоментувати це, Мета згадав промову Цукерберга у січні.
Тоді мільярдер заявив, що компанія ще більше звертається до штучного інтелекту, і не згадав про боротьбу з «поганим» контентом.
«Незабаром ми побачимо вибух нових медіаформатів, які будуть більш захопливими та інтерактивними, і стануть можливими виключно завдяки досягненням у штучному інтелекті», – сказав Цукерберг.
Ніл Мохан, генеральний директор YouTube, написав у блозі про очікування на 2026 рік, що лише у грудні понад мільйон каналів YouTube використовували інструменти штучного інтелекту, доступні на платформі, для створення контенту.
«Так само, як синтезатор, Photoshop та CGI (комп’ютерна графіка) революціонізували сферу звукового та візуального вираження, штучний інтелект стане благом для творчих людей, які готові його прийняти», – написав він.
Водночас він визнав, що зростає занепокоєння щодо «низькоякісного контенту, відомого як «помийка», створеного за допомогою штучного інтелекту».
Він сказав, що його команда працює над удосконаленням системи пошуку та видалення «повторюваного, низькоякісного контенту».
Однак він відкинув можливість того, що компанія прийматиме рішення щодо того, що має бути популярним, а що ні.
Він нагадав, що контент, який колись створювався для цільової, вузької аудиторії, як-от ASMR (автономна сенсорна меридіанна реакція – відчуття приємного поколювання, лоскотання, печіння, спричинене певними аудіовізуальними стимулами) або живі відеоігри, зараз є мейнстрімом.
Згідно з дослідженням компанії Kapwing, що займається штучним інтелектом, до 20 відсотків контенту, що відображається на щойно створених акаунтах YouTube сьогодні, складається з «низькоякісних відео, створених за допомогою штучного інтелекту».
Короткі відеоформати були особливо популярними, і Капвінг виявив, що такий контент з'явився у 104 з перших 500 кліпів YouTube, переглянутих у новому обліковому записі, створеному дослідниками.
Дохід від творців, схоже, є потужним рушієм, оскільки окремі особи та канали можуть заробляти гроші на залученості та переглядах.
Судячи з кількості переглядів деяких каналів та відео, створених за допомогою штучного інтелекту, чи справді аудиторію приваблює такий контент, чи алгоритми вирішують, що ми дивимося?
Капвінг каже, що серед каналів, які показують «похмурий» контент, згенерований штучним інтелектом, індійський канал Bandar Apna Dost має найбільше переглядів – 2,07 мільярда, що, за оцінками, приносить творцям річний дохід близько чотирьох мільйонів доларів.
Однак, такий контент також викликає негативну реакцію.
Під багатьма вірусними відео, створеними за допомогою штучного інтелекту, сьогодні часто можна побачити лавину гнівних коментарів, що засуджують такий контент.
Гігантські монстри та смертельні паразити у шлунку
Теодор, студент з Парижа, допоміг розпалити цей опір.
Використовуючи свій новознайдений вплив на мережу Xu, він поскаржився YouTube на потік дивних мультфільмів, створених штучним інтелектом, які збирали величезну кількість переглядів.
На його думку, вони були тривожними та шкідливими, а в деяких випадках йому здавалося, що вони були призначені для дітей.
Назви відео були на кшталт «Мама-кішка рятує кошеня від смертельних шлункових паразитів», і в них були криваві сцени.
В іншому короткому відео жінка в нічній сорочці їсть паразитів і перетворюється на величезного, розлюченого монстра, якого зрештою зцілює Ісус.
YouTube заявив, що відео були видалені через порушення правил спільноти.
Вони заявили, що «зосереджені на тому, щоб надавати нашим користувачам високоякісний контент, незалежно від того, як він був створений», і що вони працюють над «зменшенням поширення неякісного контенту, створеного за допомогою штучного інтелекту».
Це явище впливає навіть на, здавалося б, приємні платформи, присвячені способу життя, такі як Pinterest, де діляться рецептами та ідеями дизайну інтер'єру.
Користувачі настільки розчаровані потоком "відстійного" контенту, створеного штучним інтелектом, що компанія запровадила нову систему, яка дозволяє їм відмовитися від контенту, створеного штучним інтелектом.
Але ця система залежить від того, чи самі користувачі визнають, що їхні ідеальні домашні зображення насправді були створені за допомогою штучного інтелекту.
Гнів у коментарях
У моїй стрічці (а я знаю, що в кожного різна стрічка, а отже, і коментарі) постійно з'являються негативні реакції на "поганий" контент, створений за допомогою VI.
Схоже, що на TikTok, Threads, Instagram та X спостерігається певний рух проти такого контенту.
Іноді кількість лайків під коментарями, що критикують «помийки», згенеровані штучним інтелектом, набагато вища, ніж популярність самого допису.
Так сталося з нещодавнім відео, на якому сноубордист нібито рятує вовка від ведмедя.
Саме відео мало 932 лайки, а коментар: «Підніміть руку, якщо вам набридла ця нісенітниця, створена штучним інтелектом» – 2.400 лайків.
Але, звісно, все це годує звіра.
Кожна взаємодія є гарною взаємодією для соціальних мереж, оскільки вкрай важливо якомога довше утримувати користувачів на своїх платформах.
Тож чи справді має значення, чи є дивовижне, зворушливе чи шокуюче відео у вашій стрічці справжнім, чи ні?
Ефект «гниття мозку»
Емілі Торсон, доцентка Сіракузького університету в США, яка вивчає політику, дезінформацію та помилкові уявлення, каже, що все залежить від того, що люди роблять у соціальних мережах.
«Якщо хтось користується платформою, яка пропонує короткі відео виключно для розваги, то критерії того, чи є щось вартим уваги, дуже прості – «чи це весело?»», – каже вона.
«Але якщо хтось перебуває на платформі, щоб дізнатися про певну тему або поспілкуватися з членами спільноти, то він сприйматиме контент, створений штучним інтелектом, як набагато проблематичніший».
Те, як люди сприймають «помиї», створені штучним інтелектом, також залежить від того, як такий контент представлений.
Якщо щось подається як жарт, це зазвичай сприймається як жарт.
Але коли створюється «поганий» контент, щоб обдурити людей, це може викликати обурення.
Гарним прикладом є відео, згенероване штучним інтелектом, яке я нещодавно бачив: неймовірно реалістичні кадри приголомшливого полювання на леопарда в стилі документального фільму про природу.
З коментарів видно, що деякі глядачі були обмануті, інші ж сумнівалися в достовірності контенту.
«З якого це документального фільму?» — запитав один користувач.
«Будь ласка, це єдиний спосіб довести, що це не було створено штучним інтелектом».
Алессандро Галеацці з Падуанського університету в Італії досліджує поведінку в соціальних мережах та ехо-камери.
Він каже, що перевірка того, чи було відео зроблено за допомогою штучного інтелекту, вимагає розумових зусиль, і він боїться, що люди просто перестануть перевіряти.
«У мене складається враження, що потік безглуздого, низькоякісного контенту, створеного штучним інтелектом, може ще більше скоротити тривалість концентрації уваги людей», – каже він.
Він розрізняє контент, призначений для обману, та комічний, явно фальшивий «похмурий» контент, створений за допомогою штучного інтелекту, наприклад, риби у взутті або горили, що піднімають тяжкості у спортзалі.
Але навіть такий, здавалося б, нешкідливий та гумористичний контент може мати шкідливі наслідки.
Галеачі говорить про ризик так званого «гниття мозку» – припущення, що постійний вплив соціальних мереж шкодить нашим інтелектуальним здібностям.
«Я б стверджував, що «недбалий» контент, створений штучним інтелектом, сприяє ефекту гниття мозку, змушуючи людей швидко споживати контент, який, як вони знають, не тільки, ймовірно, нереальний, але й, ймовірно, не має значення чи цікавості», – каже він.
Зменшення кількості модераторів
Окрім «непотрібного» контенту, деякий інший контент, створений за допомогою штучного інтелекту, може мати набагато серйозніші наслідки.
Компанії Ілона Маска, xAI та платформа Xu, нещодавно були змушені змінити свої правила після того, як чат-бот Grok був використаний для цифрового «роздягання» жінок та дітей у мережі Xu.
А після нападу США на Венесуелу поширювалися фейкові відео, на яких люди плачуть на вулицях і дякують США.
Такий контент може формувати громадську думку та створювати враження, що американські дії були популярнішими, ніж вони були насправді.
Аналітики зазначають, що це викликає особливе занепокоєння, оскільки для багатьох соціальні мережі є єдиним джерелом інформації.
Доктор Мані Ахмед, генеральний директор OpenOrigins, компанії, яка перевіряє, чи створені зображення за участю реальних людей, каже, що нам потрібен новий спосіб для творців автентичного контенту довести, що їхні відеоматеріали та фотографії справжні.
«Ми вже дійшли до того моменту, коли неможливо точно сказати, що насправді, лише на основі візуального огляду», – каже він.
«Замість того, щоб намагатися виявити, що є підробкою, нам потрібна інфраструктура, яка дозволить реальному контенту публічно довести свою автентичність».
Ви можете подумати, що цим повинні займатися самі платформи соціальних мереж.
Однак багато з них, включаючи Meta та X, зменшили кількість модераторів і тепер покладаються на те, що користувачі самі позначатимуть контент як неправдивий або оманливий.
Соціальні мережі без «поганого» контенту?
Якщо існуючі технологічні гіганти загалом дозволяють вільно публікувати та поширювати «похмурий» контент, чи стане поява нової соціальної мережі, яка пропонуватиме альтернативу без «похмурого» контенту, створеного штучним інтелектом, загрозою для великих мереж?
Це здається малоймовірним, оскільки виявляти контент, створений штучним інтелектом, стає дедалі складніше.
Машини більше не можуть надійно визначити, чи є відео чи зображення підробкою, і їм буде ще складніше суб'єктивно оцінити, чи належить той чи інший контент до категорії «помиїв».
Однак, якщо з'являється нова соціальна мережа, і люди вживають певних дій, таких як вихід з певної мережі, це може мати певні результати.
Це нагадує мені про розквіт соціальної мережі BeReal, французького застосунку, який здобув популярність під час пандемії коронавірусу та закликає користувачів показувати своє справжнє «я», ділячись нефільтрованими селфі в різних ситуаціях.
Біріал ще не досяг рівня Facebook чи Snapchat і, ймовірно, ніколи не досягне.
Але це змусило деякі платформи здригнутися, а в деяких випадках навіть скопіювати цю ідею.
Можливо, те саме могло б статися, якби з'явилася мережа, яка відкрито виступала б проти «непотрібного» контенту, створеного за допомогою штучного інтелекту.
Але Теодор вважає, що битва програна, і що «похмурий» контент, створений за допомогою штучного інтелекту, виживе.
Незважаючи на те, що він досі отримує повідомлення від близько 130 000 підписників у своїй поштовій скриньці, він публікує дописи все рідше і рідше і здебільшого звик до нової онлайн-реальності.
«На відміну від багатьох моїх послідовників, я не є категорично проти штучного інтелекту», – каже він.
«Я проти забруднення інтернету «похмурим» контентом, створеним за допомогою штучного інтелекту для швидкої розваги та перегляду».
Джерело першого зображення: BBC; Створено за допомогою моделі генерації зображень зі штучним інтелектом Adobe Firefly.
Слідкуй за нами на Facebook, Twitter, Instagram, YouTube i Viber. Якщо у вас є пропозиції щодо теми, будь ласка, зв’яжіться з bbcnasrpskom@bbc.co.uk
- Життя без натовпу та злиття машин і людей: як виглядатиме світ у 2050 році?
- Як дізнатися, що ви дивитеся відео, створене за допомогою штучного інтелекту
- Як отримати максимум від штучного інтелекту: чотири запитання до вас
- Як дізнатися, чи справжній ваш новий улюблений артист
- «Якщо бульбашка штучного інтелекту лусне, наслідки відчують усі компанії»
- Чи справді чат-бот може бути другом вашої дитини?
- Як штучний інтелект використовує нашу питну воду
- Фільми, зняті за допомогою штучного інтелекту, можуть отримати Оскар
Бонусне відео:
