Pravda zostane vždy pravdou.

Umelá inteligencia (AI), hlboká syntéza a ďalšie vznikajúce technológie sa rýchlo rozvíjajú a zohrávajú čoraz dôležitejšiu úlohu pri podpore nových kvalitných produktívnych síl a poháňaní vysokokvalitného hospodárskeho a sociálneho rozvoja, pričom zároveň prinášajú veľké pohodlie do každodenného života.

Tieto technológie sa však zneužívajú aj na šírenie dezinformácií a narúšanie online prostredia, čo má negatívny vplyv.

V reakcii na to Čína prijala komplexný prístup k obmedzeniu zneužívania AI a podpore jej zodpovedného rozvoja, ktorý slúži spoločným záujmom spoločnosti. V septembri tohto roku Čína vydala súbor usmernení o označovaní internetového obsahu, ktorý je generovaný alebo zostavený technológiou AI. Tieto pravidlá nariaďujú jasné označovanie, ktoré pomáha používateľom identifikovať vymyslené informácie, definujú povinnosti poskytovateľov služieb v oblasti označovania a regulujú proces označovania počas tvorby a šírenia obsahu.

Riešenie predstierania identity a podvodov

„Ahoj všetci, dnes mám pre vás špeciálnu žiadosť… Ponúkam zľavy na 300 debien čerstvých miestnych vajec z môjho rodného mesta!“

V jednom nedávnom prípade sa objavilo široko zdieľané krátke video, ktoré ukazovalo známeho športovca, ako propaguje vajcia zo svojho rodného mesta, a získalo nadšenú podporu fanúšikov. Napriek tomu bolo video, rovnako ako ostatné z toho istého účtu, vygenerované umelou inteligenciou. Jeden odkaz na produkt spojený s videom ukázal, že sa predalo viac ako 47 000 kusov.

Podľa zástupcu veľkej platformy pre krátke videá má vydávanie sa za verejne známe osoby prostredníctvom umelej inteligencie zvyčajne niekoľko foriem: používanie obrázkov známych osobností vygenerovaných umelou inteligenciou ako profilových fotografií, vytváranie neoznačených videí vygenerovaných umelou inteligenciou s celebritami a vytváranie falošných účtov celebrít s cieľom prilákať sledovateľov a generovať zisk prostredníctvom klamlivého obsahu.

Čínsky občiansky zákonník a ďalšie relevantné predpisy už poskytujú ochranu práv na portréty a hlasové nahrávky. Nové predpisy o označovaní ďalej posilňujú túto ochranu tým, že vyžadujú, aby platformy jasne označovali obsah vygenerovaný umelou inteligenciou.

„Platformy pre krátke videá musia nielen plniť svoje vlastné povinnosti, ale aj spolupracovať s používateľmi na posilnení spoločnej správy,“ povedal výkonný riaditeľ čínskej technologickej firmy Tencent. Keď používatelia narazia na neoznačené krátke videá vygenerované umelou inteligenciou, podajú sťažnosť s príslušnými materiálmi. Po overení sťažnosti platforma pridá k obsahu viditeľné plávajúce štítky.

Douyin, čínska verzia TikToku, zaviedla databázu na ochranu portrétov známych osobností s cieľom lepšie odhaľovať predstieranie identity a podvodný marketingový obsah.

Boj proti falošným správam a posilnenie dohľadu

V ďalšom incidente vyvolala vykonštruovaná „videoreportáž“ o veľkom požiari verejnú paniku. Následné vyšetrovanie zistilo, že zodpovedný účet použil umelú inteligenciu na hromadnú produkciu dezinformácií, pričom denne generoval 4 000 až 7 000 vykonštruovaných správ a zarábal viac ako 10 000 juanov (1 413,32 USD).

Napriek úsiliu bojovať proti takémuto zneužívaniu pretrvávajú medzery. Podľa vedúceho oddelenia bezpečnosti obsahu na spravodajskej platforme nie sú mechanizmy proti dezinformáciám vždy aktuálne, pretože obrázky alebo videá generované umelou inteligenciou môžu zostať celé hodiny neoznačené, čo obmedzuje včasné varovania pre verejnosť.

Yang Qingwang, zástupca dekana Právnickej fakulty na Central South University, zdôraznil potrebu, aby platformy reagovali rýchlo a používali autoritatívne informácie na označovanie a odstraňovanie falošného obsahu a penalizovali účty, ktoré porušujú pravidlá.

V posledných rokoch Čína neustále posilňovala svoj právny a regulačný rámec s cieľom definovať hranice zodpovedného používania umelej inteligencie. Medzitým regulačné orgány na celoštátnej úrovni skúmajú nové prístupy k boju proti šíreniu falošných správ generovaných umelou inteligenciou.

„Úzko spolupracujeme s výskumnými inštitúciami a technologickými podnikmi s cieľom posilniť monitorovanie, včasné odhaľovanie a identifikáciu škodlivých deepfakov. Prostredníctvom spolupráce s príslušnými orgánmi sme vytvorili uzavretý mechanizmus zahŕňajúci kontrolu fám, overovanie, spoločné hodnotenie, postúpenie prípadov a presadzovanie práva, čo umožňuje včasnú a zákonnú reakciu na dezinformácie generované umelou inteligenciou,“ uviedol úradník z oddelenia kybernetickej bezpečnosti úradu verejnej bezpečnosti v provincii Liao-ning v severovýchodnej Číne.

Budovanie digitálnej gramotnosti a obrany

Prevádzkovatelia platforiem tiež nabádajú používateľov, aby zostali ostražití. Medzi znaky obsahu generovaného umelou inteligenciou môžu patriť logické nezrovnalosti, plochý alebo príliš jednotný emocionálny tón alebo vágne faktické detaily, ako aj neprirodzené pohyby tváre, nepravidelné osvetlenie alebo skreslený zvuk. Používateľom sa odporúča, aby si overili zdroje a spoliehali sa na autoritatívne médiá alebo oficiálne kanály.

Prostredníctvom koordinovaného úsilia medzi regulačnými orgánmi, platformami a používateľmi a s podporou technologickej detekcie, mechanizmov hlásenia a právnej zodpovednosti sa Čína snaží vybudovať silnú obranu proti dezinformáciám generovaným umelou inteligenciou a zabezpečiť zdravý rozvoj nových technológií.