EU chystá tvrdou regulaci umělé inteligence. Europoslanci chtějí zakázat, aby software zkoumal emoce lidí
Evropští poslanci dokončují svoje návrhy k celoevropské regulaci umělé inteligence. Politici napříč stranami chtějí, aby bylo například zakázáno rozpoznávání osob v reálném čase pomocí softwaru nebo aby technologie vyhodnocovaly emoce lidí. Regulace se bude týkat i takzvaných chatovacích robotů ChatGPT. Pokud požadavky poslanců podpoří vlády EU, Evropa bude mít dosud nejtvrdší pravidla pro využití umělé inteligence na světě.
Historicky první unijní zákon o umělé inteligenci (AI) navrhla Evropská komise před dvěma lety a loni v prosinci během českého předsednictví EU schválily svoje stanovisko členské státy. Debatu ministrů tehdy řídil místopředseda vlády pro digitalizaci Ivan Bartoš (Piráti) a výsledek označil za „křehkou rovnováhu“ mezi inovacemi a ochranou základních práv a soukromí občanů.
Členské státy mimo jiné podpořily, aby programy mohly ve vymezených situacích rozpoznávat osoby na dálku na základě biometrických dat. Ministři uvedli, že by to mohlo vést například k včasné identifikaci nebezpečného teroristy.
Europoslanci ale chtějí jít v regulaci umělé inteligence dál. Vyjednávači ve sněmu navrhují, aby bylo možné biometricky rozpoznávat lidi na ulici jen zpětně a na základě soudního příkazu.
„Je to zvážení dvou rizik: buď bude trvat chytit teroristu o něco déle, nebo shromáždíte takové množství biometrických dat o jednotlivcích, že půjde na dálku rozpoznat v davu lidí opozičníka a hned ho zatknout, jako se to už děje v Rusku,“ popsal pro HN a Aktuálně europoslanec Marcel Kolaja, jeden ze stínových zpravodajů návrhu. „Většina kolegů včetně mě podporuje zákaz takové identifikace osob,“ dodal zástupce Pirátů. Obdobná úprava v USA umožňuje používat AI pro identifikaci osob v reálném čase.
Evropští poslanci se také kloní k zákazu využívat software ke „čtení“ lidských emocí, až na výjimečné případy například ve zdravotnictví. Poslanci upozorňují, že firmy a instituce by mohla vidina úspor motivovat k používání AI na vyhodnocení uchazečů při výběrových řízeních. Vedlo by to podle nich k velké chybovosti a diskriminaci lidí, protože ne každý má standardní mimiku – kdo mračí čelo, se nemusí nutně hněvat a podobně.
Konfliktní téma se pak rýsuje u uměle vygenerovaných fotek a obrazů. Agentura Getty Images momentálně žaluje v Británii výrobce programu Stability AI za to, že k vývoji svého softwaru použil data z milionů fotek Getty Images, aniž by k tomu agentura dala svolení. Část poslanců proto chce, aby využívání cizích děl umělou inteligencí řešila i tato legislativa. Další jsou proti. „Brzdilo by to vývoj a inovace, kdyby se tu zpoplatnila autorská práva. AI v tomto případě fotky dál neprodává, jen se na nich učí,“ tvrdí Kolaja.
Po regulaci umělé inteligence v Evropě volá řada odborníků. Upozorňují, že vývoj jde rychleji, než se předpokládalo, a stávající legislativní „hřiště“ za ním zaostává. Belgická a francouzská média přinesla v poslední době příběhy několika škol, jejichž žáci nechali svoje obzvlášť vynikající eseje napsat programy typu ChatGPT.
Europoslanci se dohodnou na své představě regulace umělé inteligence zřejmě už tento týden. Následovalo by pak vyjednávání o konečné podobě normy s členskými státy. Cíl obou je schválit ji do začátku roku 2024. „Máme co dělat s průkopnickou technologií a využít ji znamená zavést co nejdříve jasná pravidla,“ citovaly Financial Times jednoho ze zpravodajů, europoslance Dragoșe Tudorachea. ZDROJ: https://archiv.hn.cz/c1-67195210-eu-chysta-tvrdou-regulaci-umele-inteligence-europoslanci-chteji-zakazat-aby-software-zkoumal-emoce-lidi
