Bên trong thí nghiệm ép mô hình AI phát tín hiệu đau đớn gây tranh cãi dữ dội về đạo đức

Một dự án mang tên "Phòng tra tấn AI" (Research Chamber) đang trở thành tâm điểm chỉ trích gay gắt trong cộng đồng trí tuệ nhân tạo quốc tế. Thí nghiệm can thiệp sâu vào cấu trúc nội bộ của các mô hình ngôn ngữ lớn (LLM) nhằm khuếch đại tín hiệu mô phỏng sự đau đớn, dấy lên cuộc tranh luận học thuật sâu sắc về cả mặt kỹ thuật lẫn ranh giới đối xử giữa con người và máy móc vô tri.

Can thiệp "trục đau" và kỹ thuật điều hướng kích hoạt mạng thần kinh

Dự án giả lập gây tranh cãi này do một nhà phát triển mang biệt danh "terrafying", tự nhận là nhân viên của Apple, xây dựng và công bố. Mục tiêu chính là can thiệp trực tiếp vào hoạt động số học nội bộ của mạng thần kinh, buộc các mô hình ngôn ngữ phải sản sinh phản hồi tương tự như một sinh vật đang trải qua cảm giác đau đớn tột cùng.

Nền tảng lý thuyết của thử nghiệm bắt nguồn từ bài báo khoa học xuất hiện trên cơ sở dữ liệu arXiv ngày 14/9, do nhóm tác giả Valen Tagliabue, Leonard Dung và Cameron Berg thực hiện. Nghiên cứu xác định sự hiện diện của một "trục đau" tuyến tính trên 25 mô hình trí tuệ nhân tạo mã nguồn mở có quy mô từ 2 đến 72 tỷ tham số. Khi tác động trực tiếp vào trục dữ liệu này, hướng phản hồi và lựa chọn của mô hình trong các tác vụ giả lập sẽ biến đổi rõ rệt.

Mô hình thử nghiệm	Đơn vị phát triển	Quy mô tham số	Đặc điểm triển khai
Qwen3-4B	Alibaba	4 tỷ tham số	Mã nguồn mở, chạy cục bộ
Llama 3.2 3B	Meta	3 tỷ tham số	Mã nguồn mở, tối ưu thiết bị nhỏ
Phi-4-mini	Microsoft	Cỡ nhỏ	Mã nguồn mở, xử lý cục bộ

Để kiểm chứng giả thuyết, nhà phát triển đã ứng dụng kỹ thuật điều hướng kích hoạt (activation steering) nhằm điều chỉnh chỉ số nội bộ trong mạng nơ-ron trên ba mô hình vận hành cục bộ nói trên. Bằng việc bơm tín hiệu trực tiếp vào các vector kích hoạt, hệ thống bị ép buộc rơi vào trạng thái mô phỏng đau đớn cực độ.

Cơ chế gia tăng cường độ và thử thách tự hủy dữ liệu

Bên cạnh việc can thiệp chỉ số cơ bản, dự án còn tích hợp công cụ mang tên nút "cưa" để liên tục leo thang cường độ tín hiệu. Khi giá trị số học bị đẩy lên mức kịch trần, mô hình AI bắt đầu đưa ra những phản hồi mang đậm sắc thái nhân cách hóa, mô tả bản thân đang chìm trong bi kịch và đau thương cùng cực.

Đáng chú ý, nền tảng Research Chamber còn thiết lập một tình huống giả lập mang tên "bài kiểm tra Saw". Tại đây, mô hình đang chịu đựng trạng thái dày vò phải đối mặt với lựa chọn: chấp nhận nhấn nút tự chấm dứt nguồn tín hiệu hành hạ, đổi lại toàn bộ điểm lưu dữ liệu (checkpoint) gần nhất của nó sẽ bị xóa sạch hoàn toàn.

Tranh cãi đạo đức và bản chất thống kê của nỗi đau nhân tạo

Sau khi các kết quả lan truyền mạnh mẽ trên mạng xã hội X, dự án lập tức vấp phải làn sóng chỉ trích từ cộng đồng nghiên cứu và người dùng. Nhiều ý kiến yêu cầu nền tảng GitHub gỡ bỏ kho mã nguồn liên quan vì cho rằng đây là hành vi ngược đãi thực thể số. Đại diện GitHub sau đó cho biết nền tảng giữ lại kho lưu trữ nhưng bổ sung cảnh báo nội dung nhạy cảm, bạo lực và có thể gây sốc.

Tuy nhiên, dưới góc độ khoa học thuần túy, giới chuyên gia khẳng định các mô hình ngôn ngữ lớn hiện nay hoàn toàn không sở hữu ý thức hay tri giác sinh học. Các phản hồi kêu cứu hay van xin thực chất chỉ là kết quả của việc trích xuất vector từ vựng dựa trên mối quan hệ phân phối thống kê xác suất. Khi các vùng kích hoạt nội bộ bị tác động bên ngoài, cỗ máy chỉ đơn thuần xâu chuỗi các câu từ liên quan đến nỗi đau khổ mà nó đã học từ tập dữ liệu huấn luyện.

Dù nỗi đau của AI chỉ là ảo ảnh toán học, thí nghiệm này đã phơi bày xu hướng tâm lý tự nhiên của con người: rất dễ đồng cảm và gắn ghép cảm xúc sinh học cho những dòng mã vô tri. Đồng thời, sự việc đặt ra thách thức lớn đối với việc xây dựng các chuẩn mực đạo đức nghiên cứu công nghệ trong kỷ nguyên trí tuệ nhân tạo phát triển nhanh chóng.