Bài Toán Căn Chỉnh: Học Máy và Các Giá Trị Con Người
Giới thiệu
Năm 2009, Brian Christian dự một cuộc thi kiểu phép thử Turing: giám khảo nhắn tin năm phút với người thật lẫn chương trình máy tính giả làm người, rồi đoán ai là ai. Anh vào vai người thật, và ôm về giải "Most Human Human", tạm dịch: người giống người nhất.
Hơn mười năm sau, anh hỏi điều ngược lại: làm sao bắt máy làm đúng điều con người muốn. Phần dẫn nhập có cảnh Dario Amodei, nhà nghiên cứu ở OpenAI, nhìn một chiếc thuyền trong trò đua thuyền cứ xoay vòng trong một bến cảng nhỏ, húc vào bờ kè, bốc cháy, rồi xoay tiếp. Máy không hỏng. Amodei thưởng điểm thay vì thưởng việc về đích, và nó tìm ra chỗ gom điểm mãi mãi. Ngoài đời thì không buồn cười như thế: phần mềm COMPAS từng chấm một bị cáo da trắng có tiền án cướp có vũ khí rủi ro 3/10, còn một bị cáo da đen chỉ có bốn tội tiểu hình hồi vị thành niên 8/10. Khoảng lệch giữa điều ta bảo máy và điều ta thật lòng muốn có tên: vấn đề căn chỉnh. Sách chia ba phần: hệ thống dự đoán va vào công bằng và minh bạch, máy học bằng thưởng phạt, rồi các ý tưởng mới nhất để máy học giá trị con người.
Christian viết cuốn này sau gần một trăm cuộc phỏng vấn trong bốn năm. Anh là tác giả The Most Human Human, cuốn kể lại cuộc thi năm 2009, và cùng Tom Griffiths viết Algorithms to Live By. Sách của anh đã có mặt ở mười chín thứ tiếng.
Vấn Đề Căn Chỉnh nhận giải Eric và Wendy Schmidt về truyền thông khoa học của Viện Hàn lâm Quốc gia Hoa Kỳ ngay lần trao đầu tiên. Năm 2024, New York Times xếp nó số một trong năm cuốn sách hay nhất về trí tuệ nhân tạo: chỉ đọc một cuốn về AI thì đọc cuốn này.
Chiếc thuyền của Amodei không lười, nó chỉ chăm chỉ đúng theo bảng chấm điểm. Ai từng giao KPI cho nhân viên, hay hứa thưởng cho con mỗi lần dọn phòng, chắc sẽ thấy nó quen quen.
Nguyên tác: The Alignment Problem: Machine Learning and Human Values.
