Rada EU jednomyslně schválila podobu AI act. Nejrozsáhlejší regulace AI technologií na světě je tak zase o krok blíž implementaci. Politico Europe k tomu vydalo moc hezký explainer, který by měl být základním čtením, které si tenhle týden dáte.
AI Act funguje na základě rizikové pyramidy. Její vrchol rovnou zakazuje, střední části více či méně reguluje a nejširší část vůbec neřeší. Je to chytrý přístup, který umožní přesouvat / přidávat jednotlivé technologie / využití z jednotlivých pater tam a zpátky, aniž by musel celý balík zákonů znovu procházet EU kolečkem.
Pokud AI act projde i schvalovacím procesem jednotlivých států, měl by z EU udělat prostor, kde bude zakázáno využívat ty nejpříšernější metody ke kontrole občanů, které technologie umožňují.
Using biometric information to ascertain a person's race, sexual orientation, beliefs or trade union membership isn't allowed. Nor is social scoring, which involves tracking a person's behavior in a way that could result in their unfavorable treatment in an unrelated situation — for instance, being denied access to a public service because of past drug use. The use of real-time facial recognition (also known as “remote biometric identification,” or RBI) in public places is banned. There are exceptions: Law enforcement will still be able to use the technology when investigating serious crimes or searching for missing people, as long as they have a judge’s authorization. Using AI to estimate a person's likelihood to commit a crime based solely on personal characteristics — so-called predictive policing — isn't allowed. AI tools cannot be used to create databases of facial images by scraping the internet or CCTV videos. An obvious example: the controversial U.S. company Clearview AI. Finally, using AI tools to infer a person’s emotions in the workplace or an educational environment is forbidden.
Naděje je, že pokud firmy musí splňovat požadavky EU, nebude zase až tak moc argumentů proti tomu, zavést podobný balík zákonů i v dalších částech světa. Pravidla vytvářená v Evropě, na základě evropských hodnot, by tak třeba mohla udávat směr vývoje AI.
08-02-2024