Европейската комисия е предложила проект на регламент за гарантиране надеждността и предвидимостта на изкуствения интелект

На 21.04.2021 г. Европейската комисия предложи система от мерки, насочени към създаване на гаранции за надеждността и предвидимостта на изкуствения интелект и осигуряване водеща роля на Европейския съюз по тези въпроси. Част от предложените мерки включват проект на регламент, който да уреди изискванията към системи, които използват изкуствен интелект.

С предложения проект изрично се забранява използването на изкуствен интелект, когато това е риск за сигурността и правата на хората. Примери за такива неприемливи рискове са използването на изкуствен интелект за манипулиране на човешко поведение с цел да се изкриви свободната воля или за формиране на „социална оценка“ от правителства.

За системи с висок риск – като такива, свързани с транспортна инфраструктура, образование или професионално обучение, трудови отношения, съществени частни или публични услуги, миграционен и граничен контрол, администрация на правосъдието и демократичния процес – са предвидени следните гаранции за надеждността и предвидимостта на изкуствения интелект:

– мерки за оценка и ограничаване на риска;

– изисквания за качество на входната информация, което да предотврати дискриминационни или грешни решения;

– записване на извършените операции;

– наличие на пълна документация, която да гарантира прозрачност и отчетност пред властите на използваните системи;

– ясна и пълна информация за ползвателя;

– гарантиране упражняването на човешки надзор;

– високо ниво на сигурност и устойчивост на използваните технологични решения.

За случаи на ограничен риск се изискват по-ограничени мерки, които да позволяват на ползвателя своевременно да узнае, че се прилага изкуствен интелект, за да прецени дали да продължи използването на съответната процедура или услуга. Това е приложимо например при използването на чатботове.

За определени случаи се приема, че рискът от използване на изкуствен интелект е минимален и не се изискват специални мерки за защита – например при видео-игри или филтри за непоискани съобщения.

Отговорностите във връзка с изкуствения интелект са възложени както на създателите на изкуствен интелект, така и на лицата, които използват такъв. Съответно контролът за спазване на изискванията на регламента надеждността и предвидимостта на изкуствения интелект се възлага националните органи за наблюдаване на пазара, като е предвидено и създаване на Европейски съвет за изкуствен интелект, както и одобряване на кодекси за поведени и създаване на регулаторни улеснения за отговорни иновации.

Конкретните изисквания на регламента ще бъдат ясни, след като окончателният текст бъде приет.