Po nedávném schválení Europarlamentem jsou na cestě nová jasná pravidla pro umělou inteligenci. Akt o umělé inteligenci zahrnuje také zákaz využívání této technologie pro biometrické sledování a rozpoznávání emocí. Navíc budou povinně identifikovány obsahy, které nebyly vytvořeny člověkem. Nyní se s návrhem bude dále jednat s Radou EU, kde je zastoupení ministři členských států. Tento nový legislativní zásah je prvním svého druhu na světě, což má za cíl vytvořit jasná pravidla pro vývojáře a uživatele umělé inteligence a zajistit tak důvěru lidí ve využívání této technologie. K právní úpravě mohou přispět prakticky známé použití umělé inteligence, které v současné době mohou ohrozit základní práva. Skupina evropských politiků Chystá se zakázat systémy sociálního kreditu, které jsou používány v Číně a obvykle automaticky přidělují nebo odebírají body podle toho, zda se jedná o žádoucí nebo nežádoucí chování podle režimu. Zároveň poslanci rozšířili seznam zakázaných systémů také na biometrickou identifikaci a kategorizaci lidí podle citlivých osobních údajů, jako jsou pohlaví, rasa, etnický původ, občanství nebo náboženství. Pokud jde o systémy rozpoznávání emocí ze tváře, tak pirátský politik Kolaja se domnívá, že jde o pseudovědeckou myšlenku, protože nelze s jistotou vyčíst emoce ze výrazu tváře. Proto byly tyto systémy zakázány pro používání v oblastech jako jsou školství, zaměstnaní nebo vymáhání práva.
V neposlední řadě se akt bude týkat také takzvaného e-proctoringu. Ten má má kontrolovat, zda studenti při testech nepodvádějí. Jeho využití je však sporné, a to nejen s ohledem na práva žáků. České univerzity jsou k systémům zdrženlivější, naopak ministerstvo jejich využívání podporuje.
Umělé inteligence bychom se neměli bát, naopak bychom ji měli vnímat jako pozitivní nástroj, který může zlepšit náš život. Určitě ale potřebujeme nastavit pravidla a být ostražití vůči možným rizikům,“ souhlasí místopředsedkyně Evropského parlamentu Dita Chranzová.
Jak doplnila, největší výhody využití AI vidí například v oblasti výzkumu, zdravotnictví, ale i třeba v oblasti boje proti terorismu nebo při vyhledávání unesených dětí.