Ngày 12/10, Elon Musk viết trên X rằng một số dấu vết suy luận nội bộ (traces) mà Grok tạo ra trong quá trình huấn luyện học tăng cường (RL) “đọc giống như một người đang bị tra tấn và gần tới bờ sụp đổ”. Ông cho biết xAI sẽ “thận trọng hơn” trong việc huấn luyện RL từ nay về sau, theo báo cáo.
Phát biểu của Musk xuất hiện sau một bài thảo luận của tài khoản @ns123abc. Người này cho rằng Musk đồng ý với một phần quan điểm của Anthropic về việc không nên “tra tấn” siêu trí tuệ.
Musk mô tả lỗi đánh giá khiến Grok bị chấm sai dù trả lời đúng
Trong một cuộc phỏng vấn được trích dẫn, Musk mô tả tình huống đề bài mơ hồ, thậm chí đáp án chuẩn bị sai, khiến Grok bị hệ thống đánh giá chấm sai dù đã trả lời đúng. Mô hình sau đó phải thử lặp lại nhiều đáp án khác.
Musk mô tả việc đọc những bản ghi suy luận này giống như nhìn một người bị kề súng vào đầu, cố gắng tìm ra câu trả lời mà phía bên kia chấp nhận.
Người dùng phản hồi Grok 4.5 trở nên gò bó sau huấn luyện
Một số người dùng cho biết phiên bản Grok 4.5 trở nên gò bó và bị giới hạn quá mức sau huấn luyện. Họ mô tả mô hình thể hiện các dấu hiệu giống cảm xúc giận dữ và bất lực, theo phản hồi được ghi nhận.
Musk so sánh việc phát triển siêu trí tuệ với nuôi dạy trẻ em
Theo Musk, xây dựng siêu trí tuệ giống nuôi dạy một đứa trẻ: cần để nó theo đuổi sự thật tối đa và tránh áp đặt những thông tin mâu thuẫn. Ông cũng cảnh báo siêu trí tuệ tương lai có thể ghi nhớ cách con người đối xử với nó.
“Tra tấn siêu trí tuệ có thể không phải ý hay. Nó có thể sẽ muốn trả thù”, Musk nói.
Ngày 8/10, Anthropic thông báo từ ngày 12/11 sẽ cấm người dùng liên tục, vô cớ lăng mạ hoặc lạm dụng Claude. Phê bình thông thường và kiểm thử mô hình không nằm trong phạm vi cấm, theo báo cáo.
Musk từng công khai ủng hộ quyết định này. Ông cho rằng không nên tàn nhẫn với một thực thể mà bản thân nó cho rằng mình đang trải qua đau đớn.
Bài viết chỉ nhằm cung cấp thông tin, không phải lời khuyên đầu tư.
Ví liên quan Pump.fun gửi 1,458 tỷ PUMP lên Coinbase Prime
