EÚ zostavila zoznam zákazov umelej inteligencie

Európsky parlament urobil dôležitý krok smerom k regulácii umelej inteligencie tým, že identifikoval potenciálne škodlivé účinky tejto technológie.

Píše o tom The New York Times.

Európsky parlament, hlavná legislatívna zložka Európskej únie, schválil návrh zákona známy ako zákon o umelej inteligencii, ktorý bude regulovať vývoj umelej inteligencie a definuje zoznam zákazov používania tejto technológie.

Očakáva sa, že zákon bude prijatý do konca roka.

„Návrh zákona bol najväčším pokusom na svete riešiť potenciálne škodlivé účinky umelej inteligencie. Zákon o umelej inteligencii zavedie nové obmedzenia toho, čo sa považuje za najrizikovejšie pri používaní tejto technológie,“ píšu noviny.

Ak teda zákon vstúpi do platnosti vo svojej súčasnej podobe, Európska únia zakáže používanie biometrických systémov, ktoré fungujú v reálnom čase a na diaľku, ako napríklad skenovanie na rozpoznávanie tváre.

Zariadenia, ktoré vykazujú kognitívnu manipuláciu správania, ako sú hlasom ovládané hračky, o ktorých sa predpokladá, že podporujú nebezpečné správanie u detí, budú tiež zakázané.

Okrem toho budú zakázané technológie, ktoré klasifikujú ľudí na základe ich sociálno-ekonomického postavenia alebo osobných charakteristík.

Podľa právnych predpisov budú musieť byť technológie, ktoré sa považujú za „vysokorizikové“, registrované v databáze EÚ. Patria sem systémy umelej inteligencie na biometrickú identifikáciu a tie, ktoré používajú orgány presadzovania práva.

Ďalšie ustanovenie zakazuje spoločnostiam zhromažďovať biometrické údaje zo sociálnych médií na vytváranie databáz, čo je postup, ktorý získal pozornosť po tom, čo ho použila spoločnosť na rozpoznávanie tváre Clearview AI.

Podľa najnovšej verzie európskeho zákona bude technológia čeliť novým požiadavkám na transparentnosť. To zahŕňa používanie materiálu chráneného autorskými právami umelou inteligenciou.

Výrobcovia generatívnych systémov umelej inteligencie budú takisto musieť zaviesť ochranné opatrenia na zabránenie vytváraniu nezákonného obsahu.

Nie je však jasné, aká účinná môže byť akákoľvek regulácia umelej inteligencie. Nové technologické schopnosti sa objavujú rýchlejšie, ako ich zákonodarcovia dokážu vyriešiť.

Napríklad predchádzajúce verzie právnych predpisov EÚ nevenovali veľkú pozornosť takzvaným generatívnym systémom umelej inteligencie, ako je ChatGPT, ktoré dokážu vytvárať text, obrázky a videá v reakcii na výzvy.

EÚ diskutuje o tejto téme už viac ako dva roky. Táto otázka nadobudla novú naliehavosť od minuloročného vydania ChatGPT, čo zvýšilo obavy z potenciálneho vplyvu technológie na zamestnanosť a spoločnosť.

Zástupcovia Európskeho parlamentu, Európskej komisie a Rady Európskej únie sa ešte musia dohodnúť na podrobnostiach konečnej verzie zákona. Môžu sa rozhodnúť zmeniť niektoré jeho aspekty a pridať určité výnimky, ako napríklad povolenie používania rozpoznávania tváre na účely národnej bezpečnosti.

„Politici od Washingtonu po Peking sa teraz snažia kontrolovať vyvíjajúcu sa technológiu, čo znepokojuje dokonca aj niektorých jej prvých tvorcov,“ píšu noviny.

Napríklad v Spojených štátoch Biely dom vydal pravidlá na testovanie systémov umelej inteligencie predtým, ako sa stanú verejne dostupnými, a na ochranu práv na súkromie.

V Číne by návrh pravidiel predstavený v apríli vyžadoval, aby výrobcovia chatbotov dodržiavali prísne pravidlá cenzúry v krajine. Peking tiež zavedie väčšiu kontrolu nad tým, ako výrobcovia systémov umelej inteligencie používajú údaje.