В Евроcоюзе в воскресенье, 2 февраля, вступили в силу новые правила обращения с искусственным интеллектом (ИИ). Согласно Закону ЕС об ИИ (AI Act), с этого дня запрещены системы ИИ, представляющие «неприемлемые риски» для безопасности, здоровья или основных прав, за исключением случаев, связанных с «национальной безопасностью».

Так, в числе прочего, в Европейском Союзе запрещается использование ИИ-программ, которые оценивают социальное поведение человека. Этот метод, известный как «социальный рейтинг» (social scoring), применяется, например, в Китае, где граждан делят на категории по поведению и соответственно поощряют или наказывают. В ЕС также не допускается распознавание эмоций на рабочих местах или в образовательных учреждениях.

По-прежнему запрещены манипулятивные системы ИИ, использующие обманные технологии для воздействия на поведение людей. В эту категорию попадают, например, голосовые игрушки, которые побуждают детей к опасному поведению.

В список запретов ЕС включены системы ИИ, использующие уязвимости людей или социальных групп. В эту категорию входят, к примеру, автоматизированные «роботизированные звонки» (Robo-Calls), которые могут использоваться для мошенничества в отношении пожилых людей.

Распознавание лиц в общественных местах, в том числе с помощью камер видеонаблюдения, также будет в принципе запрещено, но предусмотрены исключения: полиция и другие правоохранительные органы смогут использовать такую технологию для расследования преступлений, связанных с торговлей людьми и терроризмом.

Согласно заявлению Еврокомиссии, цель нового регулирования — не только защита прав потребителей, но и обеспечение надлежащего использования ИИ. Поставщики и операторы систем ИИ теперь должны гарантировать, что все лица, связанные с разработкой или эксплуатацией таких систем, обладают достаточным уровнем «ИИ-компетенций». (DW)