Гаранции по отношение на изкуствения интелект с общо предназначение

Ограничения за използването на системи за биометрична идентификация от правоприлагащите органи

Забрани за социално оценяване и употреба на ИИ за манипулиране или използване на уязвимостта на потребителите

Право на потребителите да подават жалби и да получават съдържателни обяснения

Парламентът одобри в сряда законодателния акт за изкуствения интелект, който гарантира безопасността и зачитането на основните права, като същевременно насърчава иновациите.

Евродепутатите одобриха регламента, договорен с държавите членки през декември 2023 г., с 523 гласа „за“, 46 гласа „против“ и 49 гласа „въздържал се“.

Той има за цел да защитава основните права, демокрацията, принципите на правовата държава и екологичната устойчивост от високорисков ИИ, като същевременно насърчава иновациите и утвърждава Европа като лидер в тази област. Регламентът установява задължения за ИИ въз основа на потенциалните рискове и степента на въздействие.

Забранени приложения

Новите правила забраняват някои приложения с ИИ, които застрашават правата на гражданите, включително системи за биометрична категоризация, основани на чувствителни характеристики, и нецеленасочено извличане на лицеви изображения от интернет или от записи от видеонаблюдение с цел създаване на бази данни за разпознаване на лица. Ще бъдат забранени също системите за разпознаване на емоции на работното място и в училищата, за социално оценяване, прогнозиране на престъпление (въз основа на профилиране или оценка на техните характеристики), както и ИИ, който манипулира човешкото поведение или използва уязвимостта на хората.

Изключения в областта на правоприлагането

Използването на системи за биометрична идентификация от правоприлагащите органи е забранено по принцип, освен в изчерпателно изброени и подробно определени ситуации. Системи за биометрична идентификация в реално време може да се използват само ако са спазени строги гаранции, например използването на такива системи е ограничено във времето и географския обхват и подлежи на специално предварително съдебно или административно разрешение. Те могат да се използват, например, за целенасочено търсене на изчезнало лице или предотвратяване на терористично нападение. Употребата на такива системи постфактум (употреба на системи за екс-пост дистанционна биометрична идентификация) се счита за случай на използване на високорискови системи с ИИ, който изисква съдебно разрешение във връзка с престъпление.

Задължения за високорисковите системи

Предвидени са ясни задължения и за други високорискови системи с ИИ (поради значителните им потенциални вреди за здравето, безопасността, основните права, околната среда, демокрацията и принципите на правовата държава). Примерите за високорискови приложения на ИИ включват критична инфраструктура, образование и професионално обучение, заетост, основни частни и публични услуги (напр. здравеопазване, банково дело), определени системи в областта на правоприлагането, миграцията и управлението на границите, правосъдието и демократичните процеси (напр. оказване на влияние върху изборите). Подобни системи трябва да оценяват и намаляват рисковете, да поддържат регистри за употребата, да бъдат прозрачни и точни и да гарантират човешки надзор. Трябва да се гарантира правото на гражданите за подаване на жалби относно системи с ИИ и за получаване на обяснения за решения, базирани на високорискови системи с ИИ, които оказват значително въздействие върху техните права.

Изисквания за прозрачност

Системите за ИИ с общо предназначение и моделите, на които те се основават, следва да отговарят на определени изисквания за прозрачност, например спазване на законодателството на ЕС в областта на авторското право и публикуване на подробно обобщение на съдържанието, използвано за обучение на модела. Моделите на по-мощните системи за ИИ с общо предназначение, които биха могли да породят системни рискове, ще бъдат подложени на допълнителни изисквания, включително извършване на оценка на модела, оценяване и ограничаване на системните рискове и докладване за инциденти.

Освен това изкуствените или манипулираните изображения и аудио- или видеосъдържание (дълбинни фалшификати - deep fakes на английски) трябва да бъдат ясно обозначени като такива.

Мерки в подкрепа на иновациите и МСП

На национално равнище ще бъдат създадени регулаторни лаборатории и ще се провеждат изпитвания в реални условия, които трябва да бъдат достъпни за МСП и стартиращите предприятия, с цел да се разработи и обучи новаторски ИИ преди пускането му на пазара.

Цитати

По време на пленарния дебат във вторник съдокладчикът на комисията на ЕП по вътрешния пазар Брандо Бенифей (С&Д, Италия) заяви: „Най-после имаме първия в света обвързващ закон за изкуствения интелект - за намаляване на рисковете, създаване на възможности, борба с дискриминацията и осигуряване на прозрачност. Благодарение на Парламента неприемливите практики на ИИ ще бъдат забранени в Европа и правата на работниците и гражданите ще бъдат защитени. Службата по изкуствен интелект (AI Office) следва ще бъде създадена, за да подпомага компаниите да започнат да спазват правилата, преди те да влязат в сила. Успяхме да гарантираме, че хората и европейските ценности са в самия център на развитието на ИИ“.

Съдокладчикът на Комисията по граждански свободи Драгош Тудораке (Renew, Румъния) добави: „ЕС постигна успех. Свързахме концепцията за изкуствен интелект с основните ценности, които са в основата на нашите общества. Предстои обаче много работа, която надхвърля самия Законодателен акт за ИИ. Изкуственият интелект ще ни накара да преосмислим социалния договор в основата на нашите демокрации, нашите образователни модели, пазарите на труда и начина, по който водим война. Законодателният акт за ИИ е отправна точка за нов модел на управление, изграден около технологиите. Трябва сега да се съсредоточим върху прилагането на този закон на практика”.

Следващи стъпки

Регламентът все още подлежи на окончателна проверка от юрист-лингвистите и се очаква да бъде окончателно приет преди края на законодателния мандат (чрез т.нар. процедура на поправка). Законът също трябва да бъде официално приет и от Съвета.

Той ще влезе в сила двадесет дни след публикуването му в Официален вестник и ще бъде напълно приложим 24 месеца след влизането му в сила, с изключение на: забраните за непозволени практики, които започват да се прилагат шест месеца след датата на влизане в сила, кодексите за добри практики (девет месеца след влизането в сила), правилата за ИИ с общо предназначение, включително управление (12 месеца след влизането в сила), както и задълженията за високорискови системи (36 месеца).

Контекст

Законът за ИИ отговаря пряко на предложенията на гражданите от Конференцията за бъдещето на Европа (COFE), по-конкретно на предложение 12(10) за повишаване на конкурентоспособността на ЕС в стратегически сектори, предложение 33(5) за безопасно и надеждно общество, включително противодействие на дезинформацията и гарантиране, че хората контролират ИИ, предложение 35 за насърчаване на цифровите иновации, (3) като същевременно се гарантира човешки надзор и (8) надеждно и отговорно използване на ИИ, определяне на предпазни мерки и осигуряване на прозрачност, и предложение 37 (3) относно използване на ИИ и цифрови инструменти за подобряване на достъпа на гражданите до информация, вкл. лица с увреждания.