Vén Màn AI: Sứ Mệnh Bảo Vệ Những Gì Là Con Người Trong Thế Giới Máy Móc

"Lập trình trong khi mang mặt nạ trắng là điều cuối cùng tôi nghĩ mình sẽ làm khi đến MIT." Năm 2015, phần mềm nhận diện khuôn mặt không thấy gương mặt da sẫm của Joy Buolamwini, nhưng nhận ra ngay chiếc mặt nạ trắng cô mua cho dịp Halloween.

Buolamwini là con gái một nữ họa sĩ và một nhà khoa học dược người Ghana. Cô học Georgia Tech, sang Zambia dạy lập trình, làm học giả Rhodes ở Oxford rồi mới về MIT Media Lab. Hồi đại học, con robot Simon trong dự án của cô cũng chỉ nhận ra mặt cô bạn cùng phòng tóc đỏ, da trắng. Về sau cô lập tổ chức Algorithmic Justice League và tự xưng "Poet of Code".

Hôm ấy, trước khi đeo mặt nạ, cô đã thử vẽ lên lòng bàn tay hai gạch ngang làm mắt, một chữ L làm mũi, một chữ U làm miệng, và phần mềm nhận đó là khuôn mặt. Cuốn hồi ký kể cô đi từ một sinh viên chỉ muốn chế đồ công nghệ hay ho đến người đấu tranh cho "công lý thuật toán". Cuộc kiểm toán Gender Shades của cô chỉ ra bộ phân loại của IBM chênh tới 34,4% độ chính xác giữa đàn ông da sáng và phụ nữ da sẫm. Trong bài thơ video "AI, Ain't I A Woman?", các hệ thống AI dán nhãn "nam" cho Serena Williams và gán "tóc giả" cho ảnh Michelle Obama thời đi học. Sách còn đưa bạn tới phiên điều trần ở Quốc hội Mỹ. Cô nói thẳng: AI sẽ không xoá được đói nghèo hay phân biệt đối xử, vì gốc rễ không nằm ở kỹ thuật.

Sách ra cuối tháng 10 năm 2023, thành sách bán chạy ở Mỹ và được Los Angeles Times chọn vào danh sách sách hay nhất năm. Cũng năm ấy, tạp chí Time xếp cô vào danh sách 100 người có ảnh hưởng nhất trong lĩnh vực AI.

Hai gạch ngang, một chữ L, một chữ U trên lòng bàn tay: chừng ấy nét đã đủ để phần mềm gật đầu "đây là mặt người". Lần tới máy không nhận ra mặt bạn, bình tĩnh: đứa cần soi gương lại là nó.

Nguyên tác: Unmasking AI: My Mission to Protect What Is Human in a World of Machines.