Khía cạnh chính trị của thuật toán máy học

Print Friendly, PDF & Email

Nguồn: Mark MacCarthy, “The Politics of Machine Learning Algorithms”, Project Syndicate, 12/05/2018

Biên dịch: Nguyễn Ngọc Phương Mai & Phạm Nguyễn Anh Thư

Khoảng năm 1200 TCN, triều Thương ở Trung Hoa đã phát triển được một hệ thống nhà máy cho phép xây dựng hàng nghìn chiếc bình bằng đồng để phục vụ cho cuộc sống hàng ngày và các nghi lễ. Trong ví dụ về sản xuất hàng loạt từ thời xa xưa này, quá trình đúc đồng đòi hỏi kế hoạch tỉ mỉ và sự hợp tác của một đội ngũ lớn, với mỗi người phụ trách một phần công việc khác nhau theo đúng trình tự.

Một quá trình phức tạp tương tự diễn ra với đội quân đất nung nổi tiếng mà Tần Thuỷ Hoàng, vị hoàng đế đầu tiên trong lịch sử Trung Hoa, hoàn thành 1000 năm sau đó. Theo Bảo tàng Nghệ thuật Châu Á (Asian Arts Museum) ở San Francisco, những bức tượng “được sản xuất theo dây chuyền, mở đường cho những đột phá trong sản xuất hàng loạt và thương mại”.

Nhiều học giả phỏng đoán rằng các hình thức công nghệ làm việc theo quy tắc xuất hiện từ rất sớm này đóng một vai trò quan trọng trong việc định hình xã hội Trung Quốc. Bên cạnh các tác động khác, chúng dường như giúp thuyết phục người dân chấp nhận chế độ quan lại, một quy tắc triết học xã hội đề cao tính thứ bậc, và truyền tải niềm tin chỉ có một phương thức chính xác duy nhất cho mọi việc.

Khi các nhà máy công nghiệp xuất hiện ở Châu Âu vào thế kỉ 19, kể cả những nhà phê bình tư bản gay gắt nhất như Friedrich Engels cũng phải thừa nhận sản xuất hàng loạt yêu cầu chính quyền trung ương tập trung, bất kể mô hình kinh tế tư bản hay xã hội chủ nghĩa. Ở thế kỉ 20, các nhà lý luận như Langdon Winner mở rộng áp dụng tư duy này vào các công nghệ khác. Ví dụ, ông tin rằng bom hạt nhân nên được coi là một “hiện vật mang bản chất chính trị”, bởi “tính chất chết người của nó đòi hỏi tầm kiểm soát của một chuỗi chỉ huy tập trung, phân cấp rõ ràng.”

Ngày nay, chúng ta có thể nghĩ xa hơn. Hãy cân nhắc các thuật toán máy học, vốn là công nghệ đa năng quan trọng nhất đang được vận hành hiện nay. Sử dụng các ví dụ thực tế để mô phỏng khả năng nhận thức của con người, các thuật toán này ngày càng trở nên phổ biến trong môi trường làm việc. Nhưng để tận dụng tối đa công nghệ này, các tổ chức phải định nghĩa lại các công việc của con người trở thành chức năng dự đoán để phù hợp hơn với thế mạnh của thuật toán.

Một đặc điểm mấu chốt của thuật toán máy học là hiệu quả của chúng sẽ tăng theo khối lượng dữ liệu. Kết quả là, việc sử dụng những thuật toán này đem lại một động lực công nghệ để coi các thông tin về con người như những mảng dữ liệu có thể ghi chép và tiếp cận được. Tương tự như hệ thống sản xuất hàng loạt, chúng “mang bản chất chính trị”, vì cách vận hành gốc rễ của chúng yêu cầu một số hành vi xã hội cụ thể trong khi hạn chế những cái khác. Cụ thể, thuật toán máy học đi ngược lại với mong muốn bảo vệ quyền riêng tư của con người.

Một hệ thống dựa trên mức độ công khai thông tin của các cá thể trong cộng đồng có thể được người theo chủ nghĩa cộng đồng sẵn sàng chấp thuận như nhà xã hội học Amitai Etzioni, người tin rằng giới hạn quyền riêng tư là một công cụ để thực thi các quy chuẩn xã hội. Nhưng, không như những người theo chủ nghĩa cộng đồng, các thuật toán không quan tâm đến các quy chuẩn xã hội. Mối quan tâm duy nhất của chúng là đưa ra các dự đoán chính xác hơn, bằng cách biến các khía cạnh đời sống con người thành những chuỗi dữ liệu có thể khai thác.

Hơn nữa, trong khi sức mạnh của công nghệ vô tình biến những người phương Tây theo chủ nghĩa cá nhân thành những người theo chủ nghĩa cộng đồng, thì nó cũng khiến họ lệ thuộc hơn vào một nền văn hóa phân cấp tín nhiệm dựa trên sự đánh giá của thuật toán. Dù là ở nơi làm việc, trường học, hay trên các ứng dụng hẹn hò, chúng ta đã dần quen với việc bị đánh giá bởi những công cụ vô cảm, và bị phân vào những vị trí tương ứng trong thang thứ bậc xã hội.

Đánh giá dựa trên thuật toán chắc chắn không phải là một phương pháp mới. Từ thế hệ trước, các học giả như Oscar H. Gandy đã cảnh báo rằng chúng ta đang bị cuốn vào một xã hội dựa trên chấm điểm và đánh giá, và họ yêu cầu trách nhiệm giải trình cao hơn cũng như đề nghị giải quyết các sai lầm gây ra bởi công nghệ. Nhưng, không như các thuật toán máy học hiện đại, các công cụ đánh giá cũ dễ hiểu hơn. Chúng đưa ra quyết định dựa trên các quy tắc tương ứng và các yếu tố thực nghiệm. Ví dụ, nợ thẻ tín dụng quá nhiều hiển nhiên sẽ làm giảm độ tin cậy về tín dụng của một chủ thẻ.

Ngược lại, các thuật toán máy học hiện đại đào sâu vào khối cơ sở dữ liệu rộng lớn để tìm mối tương quan mang tính dự đoán nhưng bản chất của chúng lại khó hiểu với nhiều người. Ở môi trường làm việc, thuật toán có thể theo dõi cuộc trò chuyện của nhân viên, nơi họ ăn trưa ở đâu, và thời gian họ sử dụng máy tính, điện thoại hay đi họp. Và với khối dữ liệu này, thuật toán phát triển một mô hình phức tạp đo lường năng suất mà hoàn toàn vượt xa cảm quan thông thường của chúng ta. Trong chế độ đánh giá năng lực dựa trên thuật toán, bất kì thứ gì được yêu cầu trong mô hình thuật toán đều trở thành một chuẩn mực đánh giá năng lực mới.

Tuy nhiên, công nghệ không phải định mệnh. Chúng ta định hình công nghệ trước khi công nghệ định hình chúng ta. Các lãnh đạo doanh nghiệp và các nhà hoạch định chính sách có thể phát triển và áp dụng công nghệ họ muốn, tùy thuộc vào nhu cầu của từng thể chế. Chúng ta có quyền đặt ra các mạng lưới bảo vệ thông tin riêng tư xoay quanh những khía cạnh nhạy cảm trong cuộc sống để bảo vệ con người khỏi việc sử dụng dữ liệu một cách sai trái, và yêu cầu thuật toán cân bằng giữa dự báo chính xác với những giá trị khác như sự công bằng, trách nhiệm giải trình và độ minh bạch.

Nhưng nếu chúng ta đi theo dòng chảy tự nhiên của logic thuật toán, một nền văn hóa cộng đồng và dựa trên năng lực hơn chắc chắn sẽ hình thành. Và sự dịch chuyển vững chắc này sẽ có tác động sâu rộng tới các thể chế dân chủ và cấu trúc chính trị của chúng ta. Như các học giả nghiên cứu Trung Quốc Daniel A. Bell và Zhang Weiwei từng nhận xét, thể chế cộng đồng đang phát triển ở Trung Quốc sẽ là ứng cử viên số một thay thế cho chế độ dân chủ-tự do phương Tây.

Ở Trung Quốc, các quyết định tập thể không cần sự đồng thuận của dân chúng để được hợp pháp hóa, và người dân thường có ít quyền hạn hơn trong việc đối đầu với chính phủ, đặc biệt là về những vấn đề như quyền giám sát. Vai trò của một công dân Trung Quốc bình thường bị giới hạn trong phạm vi các cuộc bầu cử địa phương. Trong khi ấy, các lãnh đạo quốc gia được lựa chọn dựa trên một quá trình đánh giá năng lực, và họ tự coi mình là người bảo vệ lợi ích người dân.

Các nền dân chủ tự do khó có thể chuyển mình sang hẳn một thể chế như vậy. Nhưng nếu các xu hướng hiện tại trong kinh doanh và văn hóa tiêu dùng tiếp diễn, chúng ta có thể bắt gặp nhiều nét tương đồng với truyền thống thăng tiến dựa trên năng lực và mang tính cộng đồng của xã hội Trung Quốc hơn với chính lịch sử dân chủ tự do và chủ nghĩa cá nhân của chúng ta. Nếu muốn thay đổi điều này, chúng ta phải đặt mục tiêu chính trị lên trên công nghệ.

Mark MacCarthy là giáo sư giảng dạy tại Đại học Georgetown, thành viên Trung tâm Kinh doanh và Chính sách Công Georgetown, và Phó Chủ tịch Chính sách Công tại Hiệp hội Công nghiệp Phần mềm & Thông tin  (SIIA).

Copyright: Project Syndicate 2018

This entry was posted in Bình luận, Lịch sử kinh tế and tagged , , . Bookmark the permalink.