Podeli vest

Jedinstven je u svetu: evropski zakon ima za cilj da reguliše upotrebu veštačke inteligencije. Koje su prednosti, a koje posledice? 

Autor : Bilten.rs , Izvor : Bilten.rs

Foto: Pixabay

Hoće li Evropa postati uzor širom sveta?

EU se nada „efektu Brisela“, koji bi čak trebalo da utiče na velike američke korporacije. Računica je da korporacije ne žele bez svojih kupaca u Evropskoj uniji; a pošto bi bilo skupo i dugotrajno proizvoditi proizvode po različitim standardima, na kraju se pridržavaju pravila najstrože regulisanog tržišta – odnosno evropskog. Pozitivan primer ovog efekta je Opšta uredba EU o zaštiti podataka, koje se Microsoft pridržava širom sveta, prenosi Zeit.de.

Međutim, koliko će Zakon o veštačkoj inteligenciji uticati na programere veštačke inteligencije izvan EU zavisiće od toga gde se njihovi sistemi koriste. Zakon o veštačkoj inteligenciji će imati mali uticaj na lokalne aplikacije koje su prilagođene određenoj zemlji – kao što su sistemi za procenu kreditne sposobnosti Amerikanaca ili AI aplikacije u britanskim vlastima.

Situacija je drugačija sa potrošačkim proizvodima kao što su generatori slika ili chat-botovi, koji se koriste na međunarodnim platformama. Ovde bi se standardi Zakona o veštačkoj inteligenciji mogli međunarodno uspostaviti. Isto važi i za aplikacije koje je EU klasifikovala kao „visoko rizična“ i za koje postavlja posebno visoke bezbednosne zahteve.

veštačka inteligencija
Foto: Pixabay

Ovo bi moglo dovesti do ugovora i finansiranja relevantnih istraživanja. Da bi se proverilo da li su sistemi veštačke inteligencije u skladu sa pravilima EU, biće potrebni znatni naučni napori u budućnosti; takođe da razvijaju sisteme veštačke inteligencije čija je funkcionalnost razumljiva trećim licima, koji donose pravedne odluke i otporni su na sajber napade.

A tu su i novi zahtevi za transparentnost: Zakon o veštačkoj inteligenciji, na primer, zahteva od kompanija da otkriju svoje podatke o obuci. Do sada su velike tehnološke kompanije bile u mogućnosti da prošire svoju tržišnu moć jer su svoje skupove podataka čuvale u tajnosti – a nezavisni programeri su imali male šanse da dozvole svojim mašinama da uče sa bilo kojom količinom podataka. EU želi da se ovoj tajnosti stane na kraj. Međutim, da li i kako obaveza transparentnosti ima konkretan uticaj verovatno će postati jasno tek kada Zakon o veštačkoj inteligenciji stupi na snagu.

Šta je tačno regulisano Zakonom o veštačkoj inteligenciji?

Suština zakona je da su AI aplikacije podeljene u klase rizika. Programi niskog rizika se retko regulišu. Međutim, za aplikacije visokog rizika važe posebna pravila.

Slučaj visokog rizika, na primer, bio bi AI koji pomaže da se odluči da li osoba prima naknade za nezaposlene. Ako ovaj program daje netačne savete ili stavlja određene grupe u nepovoljniji položaj u odnosu na druge, to može imati ozbiljne posledice po one koji su pogođeni. Zahtevi visokog rizika takođe uključuju sisteme koji se mogu koristiti, na primer, za obradu zahteva za azil ili podršku odeljenjima za ljudske resurse u traženju dokumenata za prijavu odgovarajućih kandidata.

Kompanije koje razvijaju ili koriste takve programe moraju ispuniti zahteve za smanjenje rizika. Na primer, moraju da osiguraju da podaci koji se koriste za obuku AI adekvatno predstavljaju ljude na koje utiče. Pored toga, ljudi moraju biti u mogućnosti da prate i pregledaju odluke AI.

Foto:pixabay

Naravno, ovo ne može garantovati da sa takvom tehnologijom nešto nikada neće poći po zlu. Ipak, mnogi stručnjaci smatraju da je pristup ispravan: da se veštačka inteligencija ne reguliše u principu, već samo da se regulišu određene primene ove tehnologije. Čak i veoma jednostavan AI sistem može prouzrokovati veliku štetu ako se koristi u kritičnom području.

Zašto vam treba zakon o veštačkoj inteligenciji?

Zakon o veštačkoj inteligenciji je bolji nego nikakav zakon o veštačkoj inteligenciji. To je ono što donekle naglašeno tvrde zagovornici novog zakona EU koji reguliše veštačku inteligenciju (AI) . Prošle nedelje, poslovna udruženja, istraživači i organizacije civilnog društva pozvali su da se ne dozvoli da ovaj zakon o veštačkoj inteligenciji, Zakon o veštačkoj inteligenciji, propadne. „Nedostajući pravni okvir“ bio bi „rizičan za zaštitu osnovnih prava i inovacije u Evropi“, navodi se u jednom od nekoliko otvorenih pisama. Zabrinutost je bila neosnovana: prošlog petka je u Savetu Evropske unije usvojen Zakon o veštačkoj inteligenciji . Evropski parlament još uvek mora da se složi, ali je napravljen važan korak ka prvom sveobuhvatnom zakonu o veštačkoj inteligenciji na svetu, koji je godinama predmet sporova.

Zakon je u izradi od 2021. godine. Ali tek kada je ChatGPT u novembru 2022. pokrenuo globalni AI “hipu”hajp”, mnogi ljudi su shvatili da veštačka inteligencija – slična Internetu – može da promeni svaku oblast života u budućnosti. Ovo je podstaklo želju za pravilima koja bi regulisala upotrebu tehnologije.

Međutim, donedavno je bilo kontroverzno koliko daleko ova pravila treba da idu. U saveznoj vladi , ministar za digitalne tehnologije Volker Vising posebno je izrazio zabrinutost da bi previše propisa moglo da spreči evropske kompanije da sustignu američku konkurenciju. Međutim, Vising nije mogao da se afirmiše u kabinetu; Kao i sve druge zemlje članice, savezna vlada se takođe složila sa Zakonom o veštačkoj inteligenciji .

Ovo se pre svega tiče pravila za kompanije koje razvijaju ili koriste AI sisteme. Nisu svi zadovoljni dužnostima koje im dolaze; Ipak, čak su se i neke kompanije izjasnile za zakon kako bi imale pravnu sigurnost.

Između ostalog, Zakon o veštačkoj inteligenciji ima za cilj da osigura da automatizovane odluke koje utiču na ljude budu pravedne i razumljive. Neke AI aplikacije su takođe jednostavno zabranjene. Na primer, poslodavcima nije dozvoljeno da instaliraju sisteme koji automatski otkrivaju kako se zaposleni osećaju na osnovu njihovog izraza lica ili tona glasa. Mnogima bi trebalo da bude jasno da takva pravila imaju smisla.

Koji se propisi primenjuju na posebno moćnu veštačku inteligenciju?

Do nedavno se vodila debata o tome kako regulisati tehnologiju iza velikih jezičkih modela kao što je ChatGPT. Pošto ima toliko mogućih primena, teško ga je svrstati u jednu klasu rizika. Takozvani AI temeljni modeli ne samo da mogu pokretati chat botove, već i dopunjavati softver advokatskih firmi ili odeljenja za ljudske resurse, na primer, za donošenje kritičnih odluka.

Ako takav sistem napravi grešku, to može biti zbog netačne primene – ili osnovnog modela. Da bi to mogli da razumeju, provajderi ovakvih modela moraju korisnicima pružiti relevantne informacije. To znači: Veliki programeri veštačke inteligencije kao što su OpenAI ili Google moraju da otkriju toliko tehničkih detalja nemačkim kompanijama srednje veličine kako bi mogle da razviju „dobro razumevanje mogućnosti i ograničenja“ osnovnih sistema veštačke inteligencije.

Foto: Tanjug/AP Photo/Michael Dwyer

Još stroža pravila važe za dobavljače posebno velikih i tehnički sofisticiranih sistema veštačke inteligencije: na primer, oni takođe moraju da preduzmu mere sajber bezbednosti. Brojni istraživači AI žestoko su pozivali na takva pravila jer pretpostavljaju da najmoćniji modeli predstavljaju najveće rizike od AI.

Da li se ova stroga pravila primenjuju na sistem zavisi, između ostalog, od računarske snage koja se koristi za obuku AI. Prag je toliko visok da ga retko koji sistem koji je trenutno dostupan na tržištu ne prelazi.

Savezna vlada se tokom pregovora, između ostalih, zalagala da za osnovne modele ne važe posebni propisi. Koncern je takođe igrao ulogu da bi pravila iz Brisela mogla da evropske kompanije dovedu u ogroman nepovoljniji položaj u poređenju sa konkurencijom iz SAD ili Kine. Ovo su unapred istakle i francuska kompanija za veštačku inteligenciju Mistral AI i nemački start-up Aleph Alfa, dve od najperspektivnijih evropskih nada veštačke inteligencije koje same razvijaju osnovne modele. Ona je zabrinuta da bi Zakon o veštačkoj inteligenciji mogao da uspori njen rad pre nego što zaista krene. U ovom slučaju, Evropljani su još jednom prepustili razvoj veštačke inteligencije (i buduću dominaciju u ovoj oblasti) velikim američkim korporacijama.


bilten logo

Kako biste nas lakše pratili i bili u toku preuzmite našu aplikaciju za Android ili Iphone.


POSLEDNJE VESTI: