Nguồn: Adrienne Mayor, “An AI Wake-Up Call From Ancient Greece”, Project Syndicate, 15/10/2018.
Biên dịch: Phan Nguyên
Trong các cuộc thảo luận về tác động của trí thông minh nhân tạo (AI), một số người luôn nhắc lại huyền thoại Hy Lạp cổ đại về chiếc hộp Pandora. Trong phiên bản hiện đại của câu chuyện thần thoại này, Pandora được mô tả như một người phụ nữ trẻ tò mò mở một chiếc hộp niêm kín và vô tình để những nỗi thống khổ vĩnh cửu thoát ra gây hại cho loài người. Giống như vị thần đã thoát khỏi cái chai, con ngựa đã chạy trốn khỏi chuồng, và con tàu đã rời khỏi sân ga, huyền thoại này đã trở thành một cách so sánh kinh điển.
Và câu chuyện thực sự của Pandora cũng phù hợp với cuộc tranh luận về AI và máy học hơn so với những gì nhiều người nhận ra. Câu chuyện cho thấy tốt hơn là nên lắng nghe những người như Promethus,[1] những người quan tâm đến tương lai của nhân loại, hơn những người như Epimetheus,[2] những người dễ dàng bị lóa mắt trước những lợi ích ngắn hạn.
Là một trong những huyền thoại lâu đời nhất của Hy Lạp, câu chuyện về Pandora lần đầu tiên được ghi lại hơn 2.500 năm trước, trong thời của Homer. Trong bản gốc, Pandora không phải là một cô gái ngây thơ đã đầu hàng trước cám dỗ để mở cái lọ cấm. Thay vào đó, như nhà thơ Hesiod kể với chúng ta, Pandora được “tạo ra, chứ không phải được sinh ra.” Được ủy quyền bởi thần Zeus toàn năng và được thiết kế mang những tính xấu bởi Hephaestus, vị thần sáng chế, theo yêu cầu của thần Zeus, Pandora là một “robot android sống động” được tạo ra dưới hình hài một cô gái có pháp thuật. Mục đích của cô là để dụ dỗ con người theo kiểu “cái ác ẩn giấu trong cái đẹp.”
Tên của Pandora có nghĩa là “tất cả quà tặng” và phản ánh thực tế rằng tất cả các vị thần đều đóng góp vào việc tạo ra cô. Sau khi cô được tạo ra trong xưởng của thần Hephaestus, Hermes hộ tống “cô gái trẻ” xinh đẹp xuống trần và gả cô cho Epimetheus. Của hồi môn của cô là chiếc lọ niêm kín định mệnh trong đó chứa nhiều “món quà” hơn nữa.
Epimetheus là em trai của Prometheus, người khổng lồ nổi loạn, người đã giúp đỡ, và theo một số thần thoại, đã tạo ra loài người. Prometheus lo ngại về tính dễ bị tổn thương của con người, do đó ông đã dạy cho con người cách sử dụng lửa và các công cụ khác một cách có trách nhiệm. Nhưng điều này làm phật lòng thần Zeus, một bạo chúa tàn nhẫn, người đã quyết tâm bảo vệ sự độc quyền của mình trong việc tiếp cận công nghệ. Để trừng phạt, Zeus buộc Prometheus vào một tảng đá và phái một con đại bàng – giống như một chiếc máy bay drone – và cũng được tạo ra bởi Hephaestus – xuống moi gan của Prometheus.
Về phần mình, Pandora đã được cố tình tạo ra nhằm trừng phạt con người do đã dám nhận món quà là lửa từ Prometheus. Về cơ bản giống như một robot nữ AI quyến rũ, cô không có cha mẹ, ký ức tuổi thơ, hay cảm xúc, cũng không bao giờ già đi hay chết đi. Cô đã được lập trình để thực hiện một nhiệm vụ độc ác: đóng giả một con người trần thế và sau đó mở chiếc lọ ra.
Nhưng đó vẫn chưa phải là toàn bộ câu chuyện. Như Plato kể cho chúng ta, tên của Prometheus có nghĩa là “tầm nhìn xa”, bởi vì anh ta luôn nhìn về phía trước, không giống như người em trai vô tư của mình, Epimetheus, người có tên nghĩa là “tầm nhìn ngắn.” Là người luôn hoài nghi và biết tư duy hợp lý, Prometheus cố cảnh báo em trai mình không chấp nhận món quà nguy hiểm của Zeus. Nhưng Epimetheus đã bị Pandora quyến rũ và vô tình chào đón cô bước vào cuộc đời mình. Chỉ sau đó Epimetheus mới nhận ra sai lầm khủng khiếp của mình.
Các hình ảnh phổ biến vẽ cảnh Pandora chạy lùi ra sau trong sợ hãi trước một đám mây ác tà thoát ra khỏi chiếc lọ chỉ là một sáng tạo thời hiện đại. Tương tự là hình ảnh của Hi vọng nổi lên từ con tàu cuối cùng để xoa dịu linh hồn con người. Trong thần thoại Hy Lạp cổ điển, Pandora được mô tả như một kẻ xảo quyệt: bức tranh vẽ trên bình hoa nổi tiếng nhất của cô miêu tả cô là một phụ nữ trẻ với một nụ cười ma quái.
Hơn nữa, trong thần thoại cổ đại, Hy vọng được nhân cách hóa thành một phụ nữ trẻ tên là Elpis, và thường thiếu tầm nhìn xa. Thay vì là một lợi ích, Hy vọng tượng trưng cho việc thiếu khả năng nhìn về phía trước và lựa chọn một cách hợp lý những kết quả có thể xảy ra; cô đại diện cho những mơ ước viễn vông, chứ không phải là sự lạc quan hợp lý trong cuộc sống. Và đối với người Hy Lạp, cô cũng chỉ là một hiện thân khác của cái xấu ẩn mình trong cái đẹp được các vị thần áp đặt lên con người. Do đó, ít nhất một nghệ sĩ cổ đại mô tả Elpis/Hi vọng, cũng giống như Pandora, với nụ cười xảo trá.
Với việc máy học/AI nhanh chóng phát triển thành một công nghệ “hộp đen”, biểu tượng chiếc lọ kín của Pandora đã mang ý nghĩa mới. Chẳng mấy chốc, logic vận hành của các hệ thống ra quyết định AI sẽ trở nên không thể hiểu được không chỉ đối với người dùng mà còn đối với ngay cả những người sáng tạo ra chúng. Trong số các mối đe dọa khác nhau, khả năng rằng các hệ thống AI sẽ bị chiếm quyền điều khiển bởi những kẻ xấu, hoặc được sử dụng bởi những kẻ khủng bố và những tên bạo chúa, hiện ngày càng trở nên lớn hơn.
Khi người sáng lập Facebook Mark Zuckerberg, Andrew McAfee của MIT, Lili Cheng của Microsoft, và những người lạc quan khác về AI đảm bảo với chúng ta rằng AI sẽ mang lại những lợi ích to lớn, người ta không thể không nghĩ đến Epimetheus và Elpis. Chúng ta có nên thực sự tin tưởng rằng nhân loại có thể điều chỉnh và giải quyết được các vấn đề do AI gây ra khi chúng nảy sinh hay không?
Dường như sẽ là khôn ngoan hơn nếu chú ý đến các nhà tư tưởng giống Prometheus thời hiện đại như Stephen Hawking, người sáng lập Microsoft Bill Gates, và 115 nhà lãnh đạo công nghệ khác, những người vào năm 2017 đã nói về mối đe dọa của việc vũ khí hóa AI và robot. “Chúng ta không có nhiều thời gian để hành động,” họ cảnh báo. “Một khi chiếc hộp Pandora này được mở ra, nó sẽ rất khó để đóng lại.” Hơn nữa, những mối quan ngại này đã được lặp lại bởi người đồng sáng lập Google Sergey Brin và các nhà đạo đức học về AI như Joanna Bryson và Patrick Lin, những người cảnh báo chống lại việc liều lĩnh chấp nhận những “món quà” từ AI trước khi tìm ra cách để kiểm soát chúng.
Các cuộc thăm dò gần đây cho thấy sự lạc quan về lợi ích tiềm năng của AI đã giảm đáng kể trong số những người đang thực sự phát triển các hệ thống AI. Hiểu được cách hoạt động của AI dường như đã dẫn đến những kỳ vọng thực tế hơn. Thay vì hi vọng một cách mù quáng, viễn kiến dựa trên tri thức và kinh nghiệm nên chi phối cách chúng ta quản lý tương lai của công nghệ này và mối quan hệ của nó với chúng ta.
Adrienne Mayor, nhà nghiên cứu về các tác phẩm kinh điển, lịch sử và triết học khoa học tại Đại học Stanford, là học giả tại Trung tâm Nghiên cứu cấp cáo về Khoa học Hành vi, Đại học Stanford. Cô là tác giả của cuốn sách sắp xuất bản Gods and Robots: Myth, Machines, and Ancient Dreams of Technology (11/2018).
—————–
[1] Prometheus là một nhân vật trong thần thoại Hi Lạp, người bị các vị thần trừng phạt vì dám ăn trộm lửa từ thiên đường để trao cho con người.
[2] Epimetheus là em trai của Prometheus, và là một người được miêu tả là ngu ngốc, thiếu tầm nhìn.
