the ai dilemma: 7 principles for responsible technology

The AI Dilemma: 7 Nguyên tắc cho Công nghệ Trách nhiệm Việc lạm dụng trí tuệ nhân tạo (AI) đã gây ra những hệ lụy nghiêm trọng như bắt giữ sai người, từ chối cung cấp dịch nghiệm vụ y tế hoặc thậm chí là diệt chủng. Cuốn sách này đề xuất 7 nguyên tắc cốt lõi để các doanh nghiệp áp dụng ngay nhằm chấm dứt những tác động tiêu cực này. AI mang lại tiềm năng to lớn trong việc cải thiện gần như mọi mặt của đời sống, tuy nhiên, chúng ta không thể bỏ qua những rủi ro, sai sót và sự vận hành sai mục đích. Dựa trên các nghiên cứu của Juliette Powell tại Đại học Columbia và nhiều ví dụ thực tế, Juliette Powell và Art Kleiner đã đưa ra bảy nguyên tắc nhằm đảm bảo máy học (machine learning) phục vụ cho sự phát triển của con người. Trong đó, bốn nguyên tắc tập trung vào bản thân hệ thống AI: Rủi ro đối với con người phải được xác định một cách nghiêm ngặt và chủ động đưa vào quy trình thiết kế. Các hệ thống AI phải đảm bảo tính minh bạch và dễ hiểu đối với mọi đối tượng quan sát, không chỉ riêng các kỹ sư phát triển. Người dùng cần được quyền bảo vệ và quản lý dữ liệu cá nhân của chính mình. Đồng thời, các định kiến bị cài cắm trong AI phải được đối diện và giảm thiểu. Ba nguyên tắc còn lại liên quan đến các tổ chức phát triển AI. Cần có các quy trình cụ thể để quy trách nhiệm cho các đơn vị này khi xảy ra hậu quả tiêu cực. Cơ cấu tổ chức cần linh hoạt để các vấn đề phát sinh tại một bộ phận có thể được cô lập và xử lý dứt điểm trước khi chúng lan rộng và gây ảnh hưởng đến toàn bộ hệ thống. Cuối cùng, cần tạo ra môi trường an toàn về tâm lý và sự phản biện sáng tạo, giúp những người tham gia phát triển phần mềm có thể thẳng thắn chỉ ra lỗi sai mà không lo sợ bị trù dập. Powell và Kleiner phân tích cách triển khai từng nguyên tắc, thông qua việc dẫn chứng các phương pháp thực hiện tốt nhất hiện nay, những bước tiến mới đầy hứa hẹn và những câu chuyện cảnh báo sâu sắc. Bằng cách kết hợp góc nhìn từ các kỹ sư, doanh nhân, quan chức chính phủ và các nhà hoạt động xã hội, cuốn sách này sẽ hỗ trợ chúng ta hiện thực hóa những lợi ích và cơ hội chưa từng có mà hệ thống AI mang chỉ mang lại.