Umelá inteligencia (AI) je teraz najaktívnejšou hranicou globálnej inovácie digitálnych technológií, novou cestou pre digitálnu ekonomiku a novým horúcim miestom pre medzinárodnú konkurenciu. Ale to, ako sa vysporiadať s výzvami, ktoré to prinieslo, a vybudovať bezpečnú a spoľahlivú AI, je vecou veľkého záujmu všetkých.

Zástupcovia popredných internetových spoločností vrátane Baidu, Alibaba, 360 Security Group, vedcov a vládnych predstaviteľov sa zišli v Nishane, rodisku Konfucia vo východočínskom Qufu, v snahe nájsť odpoveď.

Umelá inteligencia, podobne ako iné digitálne technológie, je dvojsečná zbraň. Aj keď nám prináša pokročilejšie, automatizovanejšie a inteligentnejšie spôsoby práce a života, predstavuje aj výzvy pre bezpečnosť, povedal Zhou Hongyi, zakladateľ 360 Security Group pre Global Times na Svetovej internetovej konferencii Nishan Dialogue.

Či má model umelej inteligencie slabé miesta alebo je ľahko napadnuteľný či zavádzaný a či údaje modelu môžu uniknúť alebo kontaminovať počas školenia, to všetko sú možné bezpečnostné výzvy, nehovoriac o jeho nebezpečenstvách, keď sa používa v kritických oblastiach, ako sú financie, právo a autonómne vozidlá, povedal Zhou.

Tvárou v tvár bezpečnostným obavám týkajúcim sa vývoja robotov vo veľkom meradle je Zhou presvedčený, že kľúčom k dosiahnutiu bezpečnej a spoľahlivej aplikácie AI je umiestniť roboty ako asistentov podnikov a zamestnancov alebo ako „kopilota“, čo umožňuje ľudia zohrávajú kľúčovú úlohu v rozhodovacom procese.

Umelá inteligencia môže poskytovať návrhy a správy, ale konečné rozhodnutie by mali urobiť ľudia a nemali by priamo obchádzať ľudí alebo ísť za hranice rôznych obchodných systémov, aby sa mohli rozhodovať, povedal Zhou.

Generálny riaditeľ a predseda predstavenstva spoločnosti Alibaba Zhang Yong na konferencii povedal, že technológia AI by mala zvýšiť blahobyt ľudí. Bez ohľadu na to, aké výkonné stroje sa stanú, ľudia, ktorí ich vytvárajú, by mali byť vždy silnejší, lepší a múdrejší.

Každá doba má svoje vlastné civilizačné charakteristiky, ale aký je duch digitálnej civilizácie dnes? Zhang povedal, že konfucianizmus obhajuje dôležitosť kultivácie vlastnej morálky pred dosiahnutím úspechu. Tomu zodpovedá aj to, že pri vývoji umelej inteligencie musí technologický pokrok zodpovedať spoločenským normám a musí priniesť ľudstvu viac dobra.

Hrozby technológií AI nie sú len technické alebo právne, ale môžu byť aj sociálne, pretože im môže chýbať spravodlivosť alebo rovnosť. Riadenie rizika AI bude teda zložitejšie a bude potrebovať ďalšie prostriedky iné ako bežný prístup k riadeniu rizika kybernetickej bezpečnosti, povedal na konferencii pre Global Times Walter Fumy, predseda CEN-CENELEC JTC 13 Cybersecurity and Data Protection.

Fumy povedal, že EÚ je v popredí definovania a regulácie ich AI, ale okrem európskeho prístupu je k dispozícii mnoho ďalších rámcov. Vyzval, aby priemysel niekde dosiahol spoločný základ, a aby nakoniec neprišiel so stovkami rôznych právnych predpisov v oblastiach AI, ktoré by boli nadbytočné a prekrývajúce sa.

Gong Ke, výkonný riaditeľ Akadémie rozvoja umelej inteligencie novej generácie v Číne, však pre Global Times povedal, že v skutočnosti existujú určité spoločné dôvody medzi návrhom zákona EÚ a podobnými nariadeniami v Číne a USA. Rozdiel spočíva v tom, ako každá krajina formuluje svoje predpisy a kladie dôraz na rôzne aspekty, povedal Gong a vyzval na zdieľanie a výmenu rôznych modelov AI krajín, ako je napríklad algoritmus ochrany osobných údajov, aby sa dosiahol väčší spoločný základ.

Zákonodarcovia EÚ nedávno urobili krok smerom k schváleniu prelomovej legislatívy o používaní AI, prvého komplexného zákona o AI na svete, a očakáva sa, že dosiahne konečné dohody o konkrétnych nariadeniach, informovali médiá.

Gong povedal, že zákon EÚ bude dôležitým referenčným bodom pre iné krajiny, aby regulovali svoju AI, ale keďže krajiny urýchľujú vývoj AI a snažia sa prísť na to, ako spomaliť rýchlo sa rozvíjajúcu AI, prioritou by malo byť nájsť rovnováhu, keďže nariadenia budú priamo ovplyvniť budúcnosť rozvoja priemyslu AI.

„Dúfajme, že legislatíva nevytvorí pre Európu ‚špeciálnu situáciu‘,“ alebo povedzme, EÚ bude mať oveľa prísnejšie predpisy ako iné časti sveta, povedal Fumy pre Global Times a vysvetlil, že by to bolo nešťastné a určite by to bránilo rozvoj odvetvia, čo vedie k tomu, že niektoré startupy sa skôr presúvajú na iné miesta.

Čo sa týka Číny, Zhou verí, že prispôsobené značky GPT budú možným riešením, ktoré umožní efektívnejšie, bezpečnejšie a spoľahlivejšie rozhodovacie procesy, ale zároveň zlepší výkonnosť v rôznych odvetviach. V budúcnosti bude mať Čína nielen jeden veľký model AI, ale každé vládne oddelenie, podnik a dokonca každý jednotlivec bude mať svoj vlastný „prispôsobený GPT“, povedal Zhou pre Global Times.

Tieto prispôsobené modely umelej inteligencie budú mať všeobecnú schopnosť porozumieť ľudským znalostiam a interakciu s ľuďmi, ako aj schopnosť využívať špecifické znalosti a zvyky v danom odvetví.