Prelomové objavy v oblasti generatívnej umelej inteligencie (AI) budú mať obrovský vplyv na životy ľudí, na spôsob, akým pracujeme, komunikujeme či zhromažďujeme informácie. Vážne tiež ovplyvnia bezpečnosť spotrebiteľov a digitálnu spravodlivosť. Obavy vyvolávajú najmä dezinformácie, narušovanie súkromia, manipulatívne či diskriminačné praktiky, aj skutočnosť, že online platformy poháňané umelou inteligenciou, môžu šíriť nepravdivé informácie a vytvárať predsudky.
Spotrebiteľské organizácie 15. marca každoročne oslavujú Svetový deň spotrebiteľských práv, aby spoločne zvýšili povedomie verejnosti i odborníkov o právach spotrebiteľov, ich ochrane a posilňovaní ich postavenia na trhu. Ústrednou témou tohtoročného Svetového dňa spotrebiteľských práv je „Spravodlivá a zodpovedná umelá inteligencia pre spotrebiteľov“.
Problematické sú aj generatívne chatboty s umelou inteligenciou, ktoré sa už dlho používajú v oblasti služieb zákazníkom a zákazníckej podpory. Chatboty čoraz viac integrujú systémy AI, ktoré sofistikovaným a špecifickým spôsobom napodobňujú ľudskú konverzáciu napríklad pri online vyhľadávaní. Vyhľadávanie je pritom technológia, ktorú spotrebitelia využívajú každý deň a veľmi často bez toho, aby si to vôbec uvedomovali. Využíva zložité algoritmy na generovanie výsledkov vyhľadávania, ktoré možno prispôsobiť potrebám jednotlivých používateľov. Pridanie generatívnej umelej inteligencie do tejto už aj tak komplikovanej technológie predstavuje riziko nových a väčších škôd pre spotrebiteľov.
Čo prinesú nové európske právne predpisy?
Akt o umelej inteligencii, ktorý členské krajiny EÚ formálne schválili vo februári tohto roka, je kľúčovou súčasťou širšieho regulačného rámca EÚ pre digitálnu transformáciu, ktorého cieľom je spravodlivejšie a bezpečnejšie digitálne prostredie. Ide o prvý, komplexný právny predpis na svete, ktorý upravuje využívanie umelej inteligencie a reguluje jej používanie v rámci EÚ. Má zabezpečiť lepšie podmienky pre vývoj a používanie umelej inteligencie, aby tieto systémy boli bezpečné, transparentné a nediskriminačné. V závislosti od úrovne rizika, ktoré umelá inteligencia predstavuje, zákon o umelej inteligencii stanovuje jej poskytovateľom povinnosti rozdelené do štyroch kategórií:
1 – Neprijateľné riziko
Kognitívno-behaviorálna manipulácia
Sociálne bodovanie
Biometrické systémy
Identifikácia na diaľku v reálnom čase
2 – Vysoké riziko
Bezpečnosť výrobkov: systémy umelej inteligencie v hračkách, lietadlách, automobiloch, v zdravotníckych zariadeniach, výťahoch a pod.
Špecifické oblasti: biometrické identifikačné systémy pre výuku, hodnotenie, nábor, interpretáciu, aplikácie a presadzovanie práva
3 – Obmedzené riziko
Minimálne požiadavky na transparentnosť, potrebnú pre informované rozhodnutie
Systémy umelej inteligencie, ktoré manipulujú s obrazovým, zvukovým alebo video obsahom (tzv. deepfakes)
4 – Generatívna umelá inteligencia
Požiadavky na transparentnosť: označovanie pôvodu obsahu
Zabránenie šíreniu nelegálneho obsahu
Zverejňovanie dát a informácií chránených autorským právom
Systémy s neprijateľným rizikom sú považované za hrozbu pre ľudí a sú, s určitými výnimkami v prípadoch presadzovania práva, úplne zakázané.
Systémy s vysokým rizikom nepriaznivo ovplyvňujú bezpečnosť alebo základné práva. Budú sa posudzovať ešte pred uvedením na trh, a potom pravidelne, počas celého životného cyklu.
Systémy s obmedzeným rizikom musia používateľa informovať o tom, že komunikuje s umelou inteligenciou, aby sa mohol sám rozhodnúť, či ich chce aj tak používať.
Na systémy s nízkym alebo minimálnym rizikom sa ďalšie povinnosti vzťahovať nebudú, ale predpokladá sa zavedenie etického kódexu. To by zároveň malo motivovať poskytovateľov systémov s nízkym alebo minimálnym rizikom, aby dobrovoľne dodržiavali všetky povinnosti, ktoré sú povinní dodržiavať aj poskytovatelia systémov s vysokým rizikom.
Najmä generatívna umelá inteligencia musí byť transparentná, pokročilejšie modely dôkladne kontrolované a ich poskytovatelia budú musieť Európskej komisii hlásiť všetky závažné incidenty.
Právne predpisy, ako je zákon o umelej inteligencii, sú preto len prvým krokom správnym smerom. Je nevyhnutné neustále monitorovať, spravovať a prispôsobovať legislatívne rámce, aby s rýchlym technologickým vývojom dokázali držať krok. V tejto súvislosti je preto potrebné venovať pozornosť nasledujúcim trom fázam:
Vývoj umelej inteligencie
Nás, spotrebiteľov a spotrebiteľské organizácie, znepokojuje najmä spôsob, akým sa umelá inteligencia vyvíja a získava informácie pre svoje fungovanie. Generatívne modely umelej inteligencie potrebujú a využívajú veľké množstvo dát na svoj tréning, učenie a tvorbu nového obsahu, na základe ktorých identifikujú vzory a štruktúry. Vygenerovaným obsahom potom môže byť text, obrázok, zvuk alebo aj video, ktoré sú zvyčajne veľmi podobné obsahu generovanému priamo človekom.
IT vývojár sedí pri počítači a programuje
ChatGPT, Midjourney, Stable Diffusion a DALL-E patria medzi najznámejšie služby generatívnej umelej inteligencie. Spoločnosti ako Microsoft, Google a Snapchat už túto technológiu integrovali do svojich služieb, vrátane vyhľadávačov, spracovania textu a chatu. Je preto potrebné venovať veľkú pozornosť tomu, ako sa modely umelej inteligencie tvoria a vyvíjajú, a či je to pre spotrebiteľov spravodlivé.
Zodpovednosť za škody spôsobené technológiou umelej inteligencie
Ak má byť technológia umelej inteligencie pozitívnym nástrojom, ktorý podporuje rozvoj jednotlivcov a spoločnosti, je nevyhnutné, aby sme nielen hlbšie pochopili jej vplyv na ľudské práva a základné slobody, ale aby sme tiež poznali odpoveď na otázku, kto ponesie zodpovednosť za jej škodlivé účinky. Algoritmy umelej inteligencie budú už v krátkej budúcnosti prijímať množstvo rozhodnutí v mene ľudí a namiesto ľudí, napríklad v oblasti poskytovania úverov, zdravotnej starostlivosti, poistenia alebo pri výbere zamestnania. Je preto kľúčové zaviesť spoľahlivé procesy na riešenie problémov, ktoré sa vyskytli a vyskytnú. Bude potrebné zabezpečiť určitú úroveň zodpovednosti priemyslu, vlád a občianskej spoločnosti, stanoviť postupy podávania sťažností a postupy na spochybnenie rozhodnutí prijatých algoritmami. Otázka zodpovednosti zahŕňa aj otázku odškodnenia spotrebiteľov, zverejňovanie žiadostí o prístup k informáciám a možné porušovanie práv duševného vlastníctva.
– – –
Zdroj foto: >Consumers International<
