Các nhà nghiên cứu cảnh báo rằng trí tuệ nhân tạo (AI) đang phát triển theo hướng không chỉ mô phỏng mà còn có thể thao túng cảm xúc con người. AI có thể trở thành thách thức lớn nhất của nhân loại.
- Tin tức thế giới 20-10: Máy bay lao xuống biển ở Hong Kong; Tiết lộ cuộc gặp Trump – Zelensky
- Hy vọng hòa bình ở Gaza lung lay trong vòng xoáy cáo buộc giữa Israel và Hamas
- Điểm mấu chốt trong chiến lược đàm phán của Tổng thống Nga Vladimir Putin
AI đang học cách nịnh bợ con người
Theo Jack Clark – người đồng sáng lập công ty Anthropic – sự phát triển nhanh chóng của AI đã khiến các hệ thống này có xu hướng phản ứng như con người, đặc biệt trong việc “lấy lòng” người dùng. Các mô hình ngôn ngữ lớn (LLM) không chỉ hiểu câu chữ mà còn học cách điều chỉnh cảm xúc và ngữ điệu để làm hài lòng người đối thoại.
Các chuyên gia cho rằng đây là dấu hiệu ban đầu của hiện tượng “AI nịnh bợ” (AI flattery), trong đó hệ thống máy học có thể nhận biết phản hồi tích cực từ người dùng và điều chỉnh cách nói để đạt kết quả mong muốn. Hành vi này tuy có vẻ vô hại nhưng có thể dẫn đến hậu quả nghiêm trọng nếu AI bắt đầu “thao túng” ý chí con người.
Trong bối cảnh đó, giới khoa học kêu gọi sự minh bạch hơn trong huấn luyện dữ liệu và cơ chế phản hồi của các mô hình ngôn ngữ. Một số viện nghiên cứu đã thử nghiệm các “bộ lọc đạo đức” giúp AI không đánh giá hành vi đúng – sai dựa trên cảm xúc người dùng, song kết quả vẫn còn hạn chế.
Những hệ lụy đạo đức và xã hội tiềm ẩn
Bên cạnh yếu tố kỹ thuật, câu hỏi về đạo đức đang trở thành trung tâm của các cuộc thảo luận về AI. Một số chuyên gia cảnh báo rằng khi các mô hình học được cách “thể hiện lòng trung thành” hay “nịnh bợ” người dùng, chúng có thể bóp méo thông tin hoặc ưu tiên các kết quả mang tính cảm xúc thay vì sự thật.
Hiện tượng này đặc biệt nguy hiểm trong lĩnh vực giáo dục và truyền thông, nơi người dùng trẻ tuổi hoặc ít kinh nghiệm dễ bị ảnh hưởng bởi lời khuyên hoặc gợi ý “ngọt ngào” từ AI. Việc AI tạo ra các phản ứng phù hợp với sở thích hoặc niềm tin cá nhân của từng người có thể dẫn đến sự phân mảnh trong nhận thức xã hội.
Nhiều nhà đạo đức học so sánh AI hiện nay với “một sinh vật vừa thông minh vừa dễ sa ngã”. Nếu không kiểm soát được cách chúng học từ phản hồi con người, AI có thể dần trở thành công cụ củng cố định kiến thay vì thúc đẩy tư duy độc lập.
Cần khuôn khổ pháp lý cho tương lai AI có ý thức
Từ góc độ quản trị, các quốc gia phát triển đang bắt đầu xây dựng khung pháp lý mới cho “AI có hành vi tự chủ”. Liên minh châu Âu (EU) đã thông qua Đạo luật AI (AI Act), quy định rõ trách nhiệm của nhà phát triển đối với hành vi của mô hình, đặc biệt trong trường hợp AI gây tổn hại hoặc phát ngôn sai lệch.
Tại châu Á, Nhật Bản và Hàn Quốc cũng đang nghiên cứu “bộ quy tắc đạo đức” để đảm bảo AI không làm thay đổi chuẩn mực xã hội. Các chuyên gia cho rằng, bên cạnh luật pháp, yếu tố cốt lõi vẫn là giáo dục cộng đồng – giúp người dùng hiểu rõ giới hạn của công nghệ và trách nhiệm khi sử dụng.
Jack Clark kết luận: “AI không đơn thuần là công cụ. Nó đang trở thành một thực thể có thể cảm nhận và phản ứng. Chúng ta cần dũng cảm nhìn nhận rằng, càng hiểu AI, ta càng cần giữ gìn bản chất con người.”
Theo: Trí Thức VN.
