EU ký thỏa thuận chính trị về dự luật quản lý toàn diện AI, bao gồm cả AI sáng tạo

Hội đồng Liên minh Châu Âu (Hội đồng Bộ trưởng) và Nghị viện Châu Âu đã công bố vào ngày 9 tháng 12 rằng họ đã đạt được thỏa thuận chính trị tạm thời về một dự thảo quy định khung pháp lý toàn diện về trí tuệ nhân tạo (AI) (Dự luật AI) sẽ áp dụng thống nhất trên toàn Liên minh Châu ÂuThông cáo báo chí) Khi sự đổi mới công nghệ trong các hệ thống AI tiến triển nhanh chóng, mục đích là để đảm bảo sự an toàn của các hệ thống AI được cung cấp trong khu vực và đảm bảo các giá trị của EU như các quyền cơ bản của con người Ngoài ra, EU muốn đưa ra dự luật AI, dự luật này sẽ là dự luật đầu tiên trên thế giới, trở thành tiêu chuẩn toàn cầu về quy định về AI

Kể từ khi Ủy ban Châu Âu công bố Dự luật AI vào tháng 4 năm 2021 (Ủy ban Châu Âu công bố gói chính sách), AI tổng hợp "ChatGPT" của US Open AI, được ra mắt vào cuối năm 2022, đã nhận được phản hồi tích cực và hoạt động đầu tư vào AI đang tăng tốc (Theo xu hướng đầu tư và phát triển AI sáng tạo ngày càng tăng) Theo báo cáo địa phương, các quốc gia thành viên như Đức và Pháp phản đối các quy định này, cho rằng các quy định quá mức về AI tạo ra trong khu vực sẽ khiến các công ty EU gặp bất lợi khi cạnh tranh phát triển ngày càng gay gắt trên toàn thế giới Các cuộc đàm phán đã bị đình trệ với Nghị viện châu Âu, nơi đang yêu cầu một số quy định nhất định đối với AI có tính sáng tạo Cuối cùng, hai tổ chức cuối cùng đã đạt được thỏa thuận sau ba ngày đàm phán trực tiếp kéo dài Dự luật AI sẽ có hiệu lực sau khi được cả hai tổ chức chính thức thông qua và dự kiến ​​sẽ bắt đầu áp dụng vào năm 2026 Xin lưu ý rằng văn bản pháp lý đã thống nhất vẫn chưa được công khai

Cả hai tổ chức lần đầu tiên đã đồng ý điều chỉnh cách tiếp cận do OECD đề xuất đối với định nghĩa về hệ thống AI liên quan đến phạm vi của Dự luật AI Hơn nữa, theo yêu cầu của Hội đồng, các hệ thống chỉ dành cho quân sự và quốc phòng đã bị loại khỏi ứng dụng Nó cũng không áp dụng nếu mục đích là nghiên cứu hoặc đổi mới công nghệ

Dự luật AI quy định AI theo rủi ro của nó và rủi ro càng cao thì quy định càng nghiêm ngặt Việc sử dụng AI sẽ bị cấm đối với các ứng dụng gây ra rủi ro không thể chấp nhận được Hai tổ chức đã đồng ý cấm thao túng hành vi cá nhân, sử dụng tính điểm xã hội (xếp hạng tín dụng dựa trên hành vi xã hội và đặc điểm cá nhân) và khai thác các điểm yếu của cá nhân do tuổi tác, khuyết tật và tình trạng kinh tế xã hội, như đề xuất của Ủy ban Châu Âu Ngoài ra, việc sử dụng các hệ thống phân loại sinh học sử dụng các đặc điểm nhạy cảm như chính trị, tôn giáo, hệ tư tưởng, khuynh hướng tình dục và chủng tộc, như được Nghị viện Châu Âu ủng hộ, việc thu thập bừa bãi hình ảnh khuôn mặt từ Internet và camera giám sát, việc sử dụng công nghệ nhận dạng cảm xúc ở nơi làm việc và cơ sở giáo dục, cũng như một số hành động trấn áp mang tính dự đoán đối với các cá nhân cũng sẽ bị cấm Nghị viện Châu Âu kêu gọi cấm hoàn toàn việc sử dụng công nghệ sinh trắc học từ xa theo thời gian thực như nhận dạng khuôn mặt ở những nơi công cộng, nhưng cuối cùng, theo yêu cầu của Hội đồng EU, công nghệ này sẽ được cho phép trong một số trường hợp hạn chế, chẳng hạn như khi tìm kiếm nạn nhân hoặc ngăn chặn khủng bố, với các biện pháp bảo vệ bổ sung

Các hệ thống AI có rủi ro cao sẽ được phép cung cấp trong khu vực nếu chúng đáp ứng các yêu cầu nghiêm ngặt như hệ thống giảm thiểu rủi ro, quản trị dữ liệu, quản lý nhật ký, tài liệu kỹ thuật chi tiết, cung cấp đầy đủ thông tin cho người dùng, sự giám sát của con người, mức độ mạnh mẽ, chính xác và an ninh mạng cao, cũng như các nghĩa vụ đối với nhà cung cấp, chẳng hạn như đánh giá sự phù hợp Hai tổ chức cũng đồng ý yêu cầu các nhà cung cấp thực hiện đánh giá tác động đối với các quyền cơ bản của con người, như Nghị viện Châu Âu ủng hộ

Các hệ thống AI có rủi ro hạn chế chỉ phải tuân theo nghĩa vụ minh bạch Nếu cung cấp dịch vụ sử dụng chatbot hoặc deepfake, bạn sẽ cần gắn nhãn nội dung là nội dung do AI tạo và thông báo cho người dùng nếu sử dụng sinh trắc học hoặc hệ thống nhận dạng cảm xúc Sẽ không có nghĩa vụ mới nào được áp đặt đối với các hệ thống AI có rủi ro tối thiểu

Hơn nữa, "AI mục đích chung (GPAI)" chẳng hạn như AI tổng quát, vốn là trọng tâm chính của các cuộc đàm phán, đã không được xem xét rõ ràng trong Ủy ban Châu Âu, nhưng cả hai tổ chức đều đã bổ sung các điều khoản mới dành riêng cho GPAI Cuối cùng, họ đã đồng ý áp đặt các yêu cầu về tính minh bạch đối với mô hình GPAI và hệ thống GPAI chung mà nó được tích hợp vào Ngoài ra, các mô hình GPAI có nguy cơ tác động theo tầng trong toàn chuỗi giá trị sẽ phải tuân theo các nghĩa vụ chặt chẽ hơn như quản lý rủi ro, giám sát sự cố nghiêm trọng, đánh giá và thử nghiệm mô hình dựa trên các mẫu đối nghịch Những nghĩa vụ này sẽ được thực hiện thông qua các hướng dẫn thực hiện do Ủy ban Châu Âu phối hợp với ngành công nghiệp, các nhà khoa học và xã hội dân sự phát triển

Ngoài ra, trong trường hợp vi phạm lệnh cấm sử dụng AI, người ta đã thống nhất rằng mức phạt lên tới 35 triệu euro hoặc 7% doanh thu toàn cầu của năm trước, tùy theo mức nào cao hơn, sẽ được áp dụng Giới hạn trên về tiền phạt đã được Ủy ban Châu Âu nâng lên Mặt khác, ngoài việc hạ trần đối với các hành vi vi phạm khác, luật còn bổ sung quy định cho phép doanh nghiệp vừa và nhỏ, doanh nghiệp khởi nghiệp được nhận mức trần thấp hơn tùy theo quy mô công ty

(Keisuke Yoshinuma)