Изкуствен интелект в полицията

Хора трябва да имат контрол над системите с изкуствен интелект, а алгоритмите трябва да бъдат с отворен код

•Забрана на частните бази данни за разпознаване на лица, изготвянето на поведенчески прогнози от правоприлагащите органи и оценяването на гражданите

•Автоматизираното разпознаване не следва да се използва за граничен контрол или на обществени места

С цел борба с дискриминацията и гарантиране на правото на неприкосновеност на личния живот, ЕП настоява за строги гаранции, когато инструментите на ИИ се използват в правоприлагането.

В резолюция, приета с 377 гласа "за", 248 гласа "против" и 62 гласа "въздържал се", членовете на ЕП посочват риска от алгоритмична пристрастност в приложенията на изкуствен интелект (ИИ) и подчертават, че е необходим човешки надзор и силни правни правомощия, за да се предотврати дискриминацията от страна на ИИ, особено в контекста на правоприлагането или граничния контрол. Човешките оператори винаги трябва да взимат окончателните решения, а субектите, наблюдавани от основани на ИИ системи, трябва да имат достъп до средства за правна защита, казват членовете на ЕП.

Опасения за дискриминация

Според текста системите за идентификация, базирани на изкуствен интелект, вече по-често погрешно идентифицират малцинствени етнически групи, ЛГБТИ лица, възрастни хора и жени, което е особено тревожно в областта на правоприлагането и съдебната система. За да се гарантира спазването на основните права при използването на тези технологии, алгоритмите следва да бъдат прозрачни, проследими и достатъчно документирани, призовават членовете на ЕП. Когато е възможно, публичните органи следва да използват ИИ със софтуер с отворен код, за да бъдат по-прозрачни.

Противоречиви технологии

За да се зачитат неприкосновеността на личния живот и човешкото достойнство, членовете на ЕП настояват за постоянна забрана на автоматизираното разпознаване на лица на обществени места, като отбелязват, че гражданите трябва да бъдат наблюдавани само при подозрение за престъпление. Парламентът призовава да се забрани използването на частни бази данни за лицево разпознаване (като системата ИИ на „КлиърВю“ (Clearview AI), която вече се използва) и прогнозиране на база на поведенчески данни от полицията.

Членовете на ЕП не искат повече да се използва масовото оценяване на гражданите от страна на публичните органи с помощта на ИИ, което те считат, че застрашава принципите на недискриминация и не е съобразно с основните права на ЕС.

В заключение, Парламентът изразява загриженост от използването на биометрични данни за дистанционно идентифициране на хора. Например, вратите за граничен контрол, които използват автоматизирано разпознаване, и проектът iBorderCtrl ("интелигентна система за детектор на лъжата" за външните граници на ЕС) трябва да бъдат преустановени, казват членовете на ЕП, като настояват Комисията да започне производства за установяване на нарушения срещу държавите членки, ако е необходимо.

Цитат

Докладчикът Петър Витанов (С&Д, България) заяви: „Основните права са безусловни. За първи път призоваваме за мораториум върху внедряването на системи за лицево разпознаване в контекста на правоприлагането, тъй като технологията е доказано неефективна и често води до дискриминационни резултати. Категорично се противопоставяме на прогнози за полицейска дейност, основана на използването на изкуствен интелект, както и на всяка обработка на биометрични данни, която води до масово наблюдение. Това е огромна победа за всички европейски граждани.“