Tấm Gương AI: Làm Thế Nào Để Giành Lại Tính Người Trong Thời Đại Tư Duy Máy Móc
Giới thiệu
Tháng 6 năm 2022, kỹ sư Google Blake Lemoine tuyên bố hệ thống AI LaMDA mà ông thử nghiệm có ý thức, và lên trang nhất khắp thế giới. Ông hiểu công nghệ này hơn 99,9% dân số. Vậy sao lại nhầm? Theo Shannon Vallor, vì ông soi vào một tấm gương mà tưởng đang nói chuyện với người.
Vallor là triết gia, giữ ghế Baillie Gifford về đạo đức dữ liệu và trí tuệ nhân tạo ở Đại học Edinburgh, đồng thời lập Trung tâm Tương lai Công nghệ Đạo đức. Bà còn từng làm nhà nghiên cứu và nhà đạo đức AI thỉnh giảng ngay tại Google, tức đã ngồi trong ngành mà bà đang soi. Cuốn đầu của bà là Công nghệ và các đức hạnh, và cuốn này xoay quanh một câu hỏi cũ: công nghệ nuôi dưỡng hay bào mòn những phẩm chất làm nên con người.
Sách lập luận rằng các mô hình AI tiên tiến không tự suy nghĩ. Chúng phản chiếu lại những suy nghĩ, phán đoán và mong muốn của ta đã được ghi lại, đúng như tấm gương vừa phơi bày vừa phóng đại, che khuất, bóp méo. Điều đáng ngại, bà viết, không phải AI thay thế loài người, mà là ta đầu hàng nó. Sách mở bằng Narcissus của Ovid, chàng trai nằm bên hồ nước nhiều ngày, phớt lờ cơn đói và giấc ngủ vì mải ngắm hình mình. Bảy chương sau đó, mỗi chương mở bằng một đề từ về gương, từ Sylvia Plath đến Lewis Carroll, đi từ chuyện máy móc và thần linh, tới thuật toán tuyển dụng loại cô Ophelia mà chẳng ai chịu trả lời vì sao. Giọng sách lạc quan: khác với động đất hay tiểu hành tinh, mối nguy này do chính ta gây ra nên chính ta chữa được.
Sách do Oxford University Press ra mắt năm 2024 và lọt chung kết Giải sách Nayef Al-Rodhan 2024 về triết học liên ngành, cùng hai cuốn khác.
Theo sách, chatbot chẳng nghĩ gì cả, nên đừng như Narcissus, bỏ cả bữa trưa ngồi ngắm nó. Gương không đói, bạn thì có.
Nguyên tác: The AI Mirror: How to Reclaim Our Humanity in an Age of Machine Thinking.
