Inštitúcie EÚ sa dohodli na prvom legislatívnom nariadení na svete, ktoré špecificky reguluje umelú inteligenciu (AI). Výsledkom je však sklamanie pre spotrebiteľov, vzhľadom na rozsah rizík, ktorým budú v budúcnosti vďaka rozvoju umelej inteligencie vystavení.
Pozitívom je, že nariadenie o umelej inteligencii zakazuje sociálne bodovanie, ktoré je pre spotrebiteľov ponižujúce a diskriminačné. Nariadenie o AI tiež spotrebiteľom poskytuje možnosť podať na systém AI sťažnosť zodpovednému orgánu moci alebo sa domáhať kolektívneho odškodnenia, ak systém spôsobí hromadné škody.
Legislatíva však má z pohľadu spotrebiteľa aj viacero vážnych nedostatkov. Systémy AI, ktoré dokážu identifikovať a analyzovať pocity spotrebiteľov (systémy na rozpoznávanie emócií), budú naďalej povolené, čo je veľmi znepokojujúce vzhľadom na to, aké sú invazívne a nepresné. Nariadenie o umelej inteligencii sa tiež výrazne zameriava na vysoko rizikové systémy, no veľa systémov AI v hračkách alebo virtuálnych asistentov, v podstate nereguluje vôbec. Okrem toho ani základné modely systémov ako Chat-GPT, ktoré možno integrovať do širokej škály služieb, nebudú dostatočne regulované. Neexistuje napríklad povinnosť auditu takýchto modelov nezávislou treťou stranou, a nevzťahujú sa na ne ani dostatočné požiadavky na transparentnosť a zabezpečenie verejnej kontroly.
Nariadenie o AI obsahuje dobré aj zlé opatrenia, no celkovo spotrebiteľov nechráni dostatočne. Spotrebitelia a spotrebiteľské organizácie sa oprávnene obávajú moci a dosahu umelej inteligencie, ktoré môžu viesť k manipulácii a diskriminácii. Množstvo problémov zostalo nedostatočne regulovaných a spoliehame sa len na dobrú vôľu obchodných spoločností pri samoregulácii.
Napriek tomu existujú aj dôležité ustanovenia, ktoré spotrebiteľom umožnia konať, ak sa s nimi zaobchádzalo nespravodlivo alebo boli poškodení. Napríklad sa môžu obrátiť na súd ako skupina. Pozitívne je aj to, že nebude povolená mimoriadne nespravodlivá a svojvoľná prax sociálneho bodovania, a poistenie využívajúce AI sa považuje za vysoko rizikové, čo znamená, že bude podliehať dodatočným požiadavkám.
Celkovo však malo nariadenie o AI urobiť pre ochranu spotrebiteľov viac. Teraz je kľúčové, aby národné orgány zabezpečili riadne presadzovanie týchto právnych predpisov s cieľom čo najviac chrániť spotrebiteľov. Na vytvorenie dodatočnej bezpečnostnej siete pre spotrebiteľov musia použiť aj ďalšie právne predpisy, ktoré upravujú bezpečnosť výrobkov, GDPR a spotrebiteľské právo. Spotrebitelia by nikdy nemali zostať nechránení alebo bezmocní, keď o nich rozhodujú systémy umelej inteligencie.
Zdroj foto: >Image by Freepik<
