human compatible: artificial intelligence and the problem of control

Human Compatible: Trí tuệ nhân tạo và Bài toán Kiểm soát Một nhà nghiên cứu AI hàng đầu đề xuất một hướng tiếp cận mới đối với trí tuệ nhân tạo, nhằm giúp con người có thể cùng tồn tại hòa bình và thành công với những cỗ máy ngày càng thông minh hơn. Trong suy nghĩ của nhiều người, sự xuất hiện của trí tuệ nhân tạo siêu việt sẽ giống như một cơn sóng thần sắp ập đến, đe dọa không chỉ công việc và các mối quan hệ giữa người với người, mà còn cả nền văn minh nhân loại. Những xung đột giữa con người và máy móc thường được coi là điều tất yếu và có kết cục cục diện dễ đoán. Trong cuốn sách mang tính đột phá này, chuyên gia nghiên cứu AI uy tín Stuart Russell lập luận rằng kịch bản tiêu cực này hoàn toàn có thể ngăn chặn được, miễn là chúng ta thay đổi tư duy về AI từ gốc rễ. Russell bắt đầu bằng việc phân tích khái niệm trí thông minh của con người và máy móc. Ông mô tả những lợi ích ngắn hạn mà chúng ta có thể kỳ vọng, từ những trợ lý cá nhân thông minh đến việc thúc đẩy tiến độ nghiên cứu khoa học, đồng thời chỉ ra những bước đột phá AI cần đạt được trước khi tiến tới trí tuệ nhân tạo siêu việt. Bên cạnh đó, ông cũng nêu rõ những phương thức mà con người hiện nay đang lạm dụng AI, từ các loại vũ khí tự hành gây chết người cho đến các hành vi phá hoại thông qua virus. Nếu những bước đột phá dự đoán xảy ra và AI siêu việt xuất hiện, chúng ta sẽ tạo ra những thực thể mạnh mẽ hơn con người rất nhiều. Làm thế nào để đảm bảo rằng họ không bao giờ nắm quyền kiểm soát chúng ta? Russell đề xuất xây dựng lại AI trên một nền tảng mới, trong đó máy móc được thiết kế để luôn có sự không chắc chắn về sở thích của con người mà chúng phải phục vụ. Những cỗ máy như vậy sẽ khiêm tốn, vị tha và cam kết theo đuổi các mục tiêu của con người, chứ không phải mục tiêu của riêng chúng. Nền tảng mới này sẽ cho phép chúng ta phát triển những cỗ máy mà sự phục tùng và lợi ích mang lại cho con người là điều có thể chứng minh được.