OpenAI bắt đầu triển khai mô hình dự đoán độ tuổi người dùng ChatGPT cá nhân. Hệ thống nhận diện tài khoản dưới 18 tuổi dựa trên hành vi sử dụng. Khi phát hiện rủi ro, nền tảng tự động kích hoạt lớp bảo vệ nội dung nhằm tăng an toàn cho trẻ vị thành niên.
- Ngộ độc trà sữa: Ba chị em tại Thanh Hóa nghi bị mẹ đầu độc
- Mâu thuẫn vợ chồng chỉ vì tiền biếu Tết
- Siêu thị TPHCM đông nghẹt khách, sức mua tăng mạnh trước cao điểm Tết
OpenAI áp dụng phân tích hành vi để ước đoán độ tuổi
OpenAI cho biết mô hình dự đoán tuổi dựa trên nhiều tín hiệu kết hợp. Hệ thống phân tích thói quen sử dụng theo thời gian. Tuổi đời tài khoản cũng được đưa vào đánh giá. Khung giờ hoạt động thường xuyên là một chỉ dấu quan trọng. Độ tuổi người dùng tự khai báo cũng được đối chiếu.
Mục tiêu là xác định các tài khoản có khả năng thuộc người dưới 18 tuổi. Khi đạt ngưỡng xác suất nhất định, ChatGPT kích hoạt cơ chế bảo vệ. Đây là một phần trong chuỗi tính năng an toàn mới. OpenAI đang chịu áp lực tăng cường bảo vệ người dùng trẻ. Áp lực đến từ cơ quan quản lý và dư luận xã hội.
Nhiều công ty công nghệ cũng triển khai biện pháp tương tự. Lĩnh vực chatbot AI đang bị giám sát chặt chẽ. Ủy ban Thương mại Liên bang Mỹ đã mở điều tra. Cuộc điều tra tập trung vào tác động tiềm tàng với trẻ em. OpenAI cũng từng bị nêu tên trong các vụ kiện liên quan.
Cơ chế bảo vệ tự động và quy trình xác minh người dùng
Khi người dùng bị xác định dưới 18 tuổi, ChatGPT sẽ hạn chế nội dung nhạy cảm. Các nội dung bị giảm tiếp cận gồm bạo lực và hình ảnh ghê rợn. Trào lưu nguy hiểm cũng bị kiểm soát. Hệ thống hạn chế nhập vai nhạy cảm. Nội dung liên quan tự gây hại bị chặn mạnh hơn. Tiêu chuẩn ngoại hình lệch lạc cũng bị giảm hiển thị.
OpenAI cho biết mục tiêu là giảm tác động tâm lý tiêu cực. Môi trường tương tác an toàn hơn được ưu tiên. Nếu người dùng bị nhận diện nhầm, họ có quyền khôi phục đầy đủ. Quy trình xác minh sử dụng dịch vụ Persona. Nhiều nền tảng lớn cũng đang dùng Persona. Roblox là một ví dụ tiêu biểu gần đây.
Trước đó, OpenAI ra mắt công cụ kiểm soát cho phụ huynh. Công cụ giúp theo dõi và định hướng trẻ sử dụng ChatGPT. Công ty cũng lập hội đồng chuyên gia về sức khỏe tâm thần. Hội đồng gồm tám chuyên gia độc lập. OpenAI sẽ tiếp tục cải thiện độ chính xác mô hình. Tính năng dự kiến triển khai tại EU trong vài tuần tới.
Theo: VietNamNet
