Các cơ quan chức năng Canada khẳng định, OpenAI - công ty phát triển ChatGPT thu thập trái phép lượng lớn dữ liệu cá nhân nhạy cảm để huấn luyện AI mà không có sự đồng ý của người dùng.
Biểu tượng OpenAI và ChatGPT. Ảnh: AFP/TTXVNẢnh: TTXVN phát
Đồng thời chưa áp dụng đầy đủ các biện pháp bảo vệ cần thiết đối với dữ liệu dùng để huấn luyện các mô hình trí tuệ nhân tạo (AI).
Kết luận trên được đưa ra sau cuộc điều tra kéo dài 3 năm do Văn phòng Ủy viên quyền riêng tư liên bang Canada phối hợp với các cơ quan bảo vệ quyền riêng tư của Quebec, British Columbia và Alberta tiến hành.
Theo phóng viên TTXVN tại Canada, cuộc điều tra được tiến hành từ năm 2023, sau một khiếu nại cho rằng OpenAI đã thu thập và sử dụng thông tin cá nhân mà không có sự đồng ý của người dùng. Báo cáo cho biết OpenAI đã thu thập dữ liệu từ các trang web công khai và từ một số nguồn dữ liệu được cấp phép của bên thứ ba.
Các nguồn này có thể bao gồm mạng xã hội, diễn đàn thảo luận và nhiều nội dung chứa thông tin cá nhân, trong đó có thông tin về trẻ em, quan điểm chính trị, tình trạng sức khỏe hoặc những dữ liệu nhạy cảm khác. Các ủy viên về quyền riêng tư cho rằng việc thu thập và sử dụng dữ liệu này đã vi phạm các quy định của Canada, khiến nhiều người dùng không nắm rõ thông tin của họ được sử dụng như thế nào trong quá trình huấn luyện các mô hình AI.
Phát biểu tại cuộc họp báo công bố kết luận điều tra, Ủy viên quyền riêng tư tỉnh bang Alberta Diane McLeod nhấn mạnh tất cả các công ty công nghệ phát triển AI cần hiểu rõ nghĩa vụ bảo vệ quyền riêng tư theo quy định pháp luật. Bà cho rằng sự phát triển nhanh chóng của AI đang đặt ra một trong những thách thức lớn nhất đối với việc bảo vệ quyền riêng tư.
Ủy viên quyền riêng tư liên bang Philippe Dufresne khẳng định quyền riêng tư không phải là trở ngại đối với đổi mới sáng tạo, phát triển kinh tế hay bảo đảm an toàn công cộng. Tuy nhiên, ông cho rằng Canada cần có cơ chế thực thi mạnh hơn, bao gồm quyền ban hành mệnh lệnh bắt buộc hoặc áp đặt các khoản phạt hành chính, nhằm buộc các doanh nghiệp tuân thủ nhanh chóng hơn.
Báo cáo cũng cho biết cuộc điều tra không xác định các cuộc trò chuyện trực tiếp của người dùng với ChatGPT là nguồn rủi ro quyền riêng tư chính, do những tương tác này phục vụ nhu cầu hợp pháp của OpenAI trong việc cải thiện phản hồi của hệ thống và đã có một số biện pháp giảm thiểu rủi ro.
Các cơ quan bảo vệ quyền riêng tư kết luận khiếu nại là “có cơ sở”. Trong khi Văn phòng Ủy viên quyền riêng tư liên bang đánh giá vụ việc được giải quyết có điều kiện do OpenAI đã hoặc sẽ thực hiện một số thay đổi nhằm giảm thiểu rủi ro.
Bộ trưởng Trí tuệ nhân tạo Canada Evan Solomon cho rằng kết luận điều tra cho thấy tầm quan trọng của việc bảo vệ thông tin cá nhân trong kỷ nguyên AI, đồng thời cho biết Chính phủ Canada dự kiến sẽ sớm trình dự luật cập nhật về quyền riêng tư liên bang.
OpenAI không đồng tình với các kết luận trên và cho rằng công ty phần lớn tuân thủ quy định pháp luật. Tuy nhiên, OpenAI cho biết đã xử lý một số quan ngại, trong đó có việc hạn chế sử dụng thông tin cá nhân để huấn luyện mô hình, ngừng vận hành các phiên bản cũ bị cho là vi phạm luật quyền riêng tư, đồng thời tăng cường lọc dữ liệu nhạy cảm và cải thiện cơ chế lưu giữ, xóa dữ liệu cá nhân.
Link gốc