system error

System Error: Khi các Tập đoàn Công nghệ Lớn Sai lầm và Cách chúng ta Khởi động lại

"System Error là một tác phẩm xuất sắc: một bản phân tích về những thách thức trọng yếu đối với xã hội số hiện nay, vừa dễ tiếp cận vừa tinh tế." — Anne-Marie Slaughter, CEO của New America

Đây là bản tuyên ngôn mang tính định hướng từ ba vị giáo sư tại Đại học Stanford—những chuyên gia đã trực tiếp tham gia vào cuộc cách mạng công nghệ trong nhiều thập kỷ. Tác phẩm tiết lộ cách mà sự ám ảnh của Big Tech đối với việc tối ưu hóa và hiệu suất đã làm tổn hại đến những giá trị nhân văn cơ bản, đồng thời vạch ra các bước cần thiết để thay đổi lộ trình, làm mới nền dân chủ và bảo vệ chính chúng ta.

Chỉ trong một khoảng thời gian ngắn, sự lạc quan ngây thơ về khả năng giải phóng của công nghệ đã bị thay thế bởi nỗi ám ảnh về những thuật toán định kiến, chủ nghĩa tư bản giám sát và những robot thay thế con người trong công việc. Tuy nhiên, rất ít người trong chúng ta nhìn thấy một giải pháp thay thế ngoài việc chấp nhận sự tiến triển không ngừng của công nghệ. Chúng ta đơn giản là đã chấp nhận một tương lai công nghệ được thiết kế bởi các nhà kỹ thuật, các nhà đầu tư mạo hiểm tài trợ cho họ, và các chính trị gia cho phép họ hoạt động tự do.

Nhưng mọi thứ không nhất thiết phải như vậy.

System Error bóc tách nguồn gốc của tình trạng hiện tại: cách mà sự tập trung không ngừng nghỉ vào việc tối ưu hóa của Big Tech đang dẫn dắt chúng ta tới một tương lai nơi sự phân biệt đối xử được củng cố, quyền riêng tư bị xói mòn, người lao động bị thay thế và thông tin chúng ta tiếp nhận bị ô nhiễm. Tư duy tối ưu hóa này thay thế các giá trị của doanh nghiệp bằng những giá trị mà một xã hội dân chủ có thể chọn ưu tiên. Những nhà tối ưu hóa dù có ý định tốt nhưng lại thất bại trong việc đo lường mọi giá trị có ý nghĩa, và khi những sự "đột phá sáng tạo" của họ đạt đến quy mô lớn, họ vô tình áp đặt giá trị của mình lên toàn xã hội.

Với sự hiểu biết sâu sắc về cách các nhà công nghệ tư duy và vận hành quyền lực, ba vị giáo sư Stanford—bao gồm một nhà triết học chuyên về giao thoa giữa công nghệ và đạo đức, một nhà khoa học chính trị từng làm việc dưới thời Obama, và giám đốc chương trình Khoa học Máy tính bậc đại học tại Stanford (đồng thời là một kỹ sư Google thời kỳ đầu)—đã chỉ ra cách để chúng ta có thể kiểm soát quyền lực đó.

Xuất phát từ sự lo ngại về những giá trị đang lan tỏa trong cộng đồng sinh viên và văn hóa đại học, họ đã cùng nhau xây dựng một lộ trình mới, thiết lập một khóa học phổ biến nhằm thay đổi cách các nhà công nghệ tương lai tiếp cận nghề nghiệp của họ. Giờ đây, khi sự thống trị của Big Tech trở thành một vấn đề xã hội bùng nổ, họ chia sẻ những góc nhìn sâu sắc và các giải pháp cụ thể để giúp mọi người hiểu rõ điều gì đang diễn ra, những gì đang bị đe dọa và cách chúng ta có thể làm chủ công nghệ thay vì để công nghệ điều khiển chúng ta.