Nguồn: Paul Scharre, “Between a Roomba and a Terminator: What is Autonomy“, War on The Rocks, 18/02/2015.
Biên dịch: Lê Thanh Danh| Hiệu đính: Nguyễn Thế Phương
Lời giới thiệu: Đây là bài viết đầu tiên trong loạt 6 bài viết mang tên The Coming Swarm (tạm dịch: Cuộc đổ bộ sắp đến) về công nghệ rô-bốt (robotics) và tự động hóa (automation) trong quân sự. Loạt bài là một phần của dự án “Vượt ra khỏi Sáng kiến Bù đắp”[1] (Beyond Offset Initiative), hợp tác thực hiện bởi trang mạng War on The Rocks và Trung tâm An ninh Hoa Kỳ Mới (Center for New American Security). Nghiencuuquocte.net xin giới thiệu loạt bài này như là một cách để giúp bạn đọc tìm hiểu sâu hơn về công nghệ rô-bốt, cũng như tác động và hàm ý của công nghệ này tới các cuộc chiến tranh trong tương lai. Loạt bài này được đặt dưới góc nhìn của Hoa Kỳ, vốn đang là cường quốc hàng đầu thế giới về công nghệ rô-bốt và các ứng dụng của nó đối với quân sự nói chung.
Các lãnh đạo của Bộ Quốc Phòng đã tuyên bố rằng công nghệ rô-bốt và các hệ thống mang tính tự động hóa sẽ là một bộ phận then chốt trong “Chiến lược bù đắp” (Offset Strategy) mới nhằm duy trì sự thống trị về quân sự của Hoa Kỳ. Thế nhưng, tự vận hành hay tự hành (autonomy) là gì? Các hệ thống không người lái đã từng đóng vai trò quan trọng tại Iraq và Afghanistan, từ hỗ trợ tuần tra giám sát trên không đến phá gỡ bom mìn. Nhìn chung, những hệ thống này được vận hành bằng cách điều khiển từ xa, và sự tự động hóa chỉ được giới hạn trong một số chức năng như cất cánh và hạ cánh. Một số lượng lớn các văn bản đề cập tới lộ trình và tầm nhìn của Bộ Quốc phòng mô tả một tương lai mà trong đó các phương tiện không người lái có mức độ tự hành lớn hơn, chuyển đổi dần theo thời gian thành các hệ thống rô-bốt thực thụ. Tuy nhiên, tác động của viễn cảnh kể trên tới cách thức tiến hành chiến tranh của quân đội vẫn còn rất mơ hồ.
Một rô bốt “tự hành hoàn toàn” (fully autonomous) có nghĩa là gì? Để đạt đến “khả năng tự hành hoàn toàn” thì trí tuệ của máy móc phải đạt tới mức nào, và đến khi nào mới đạt được trình độ như thế? Người lính bằng xương bằng thịt sẽ có vai trò gì trong tương lai này khi các rô-bốt được giải phóng khỏi sự kiểm soát của con người?
Sự rối rắm về khái niệm “tự hành” khiến việc tìm đáp án cho những câu hỏi trên trở nên khó khăn. Cụm từ “tự hành” được sử dụng bởi nhiều nhóm khác nhau với những cách thức khác nhau, làm cho việc bàn luận về đích đến cuối cùng của các hệ thống rô-bốt trở nên đặc biệt thách thức. Thuật ngữ “rô-bốt tự hành” (autonomous robot) vừa có thể là một rô-bốt Roomba[2] đối với người này, lại vừa có thể là một “Kẻ hủy diệt”[3] đối với người khác. Những cây bút hay những diễn giả về chủ đề này thường bàn nhiều về “các mức độ của khả năng tự hành” (levels of autonomy), tuy nhiên các mức độ đó của họ lại hiếm khi thống nhất với nhau. Điều này đã dẫn đến việc Ủy ban Khoa học Quốc phòng (Defense Science Board – Hoa Kỳ) quyết định giải thích khái niệm “các mức độ” của khả năng tự hành trong một bản báo cáo mới đây.
Nhằm góp phần làm rõ hơn vấn đề này, tôi sẽ làm sáng tỏ về cách thức chúng ta sử dụng cụm từ trên, vì sao nó trở nên rắc rối, và làm cách nào để chúng ta có thể nhận thức chính xác hơn. Tôi không thể thay đổi được thực tế rằng “tự hành” mang rất nhiều ý nghĩa, và tôi cũng sẽ không cố gắng gò bó tất cả các cách sử dụng khái niệm “tự hành” thành một bảng biểu khác về “các mức độ tự hành”. Tuy nhiên, tôi có thể bổ sung một chút nào đó sự chính xác cần thiết cho cuộc tranh luận.
“Tự vận hành” là gì?
Về cơ bản, tự hành là khả năng một cỗ máy thực hiện một nhiệm vụ mà không cần điều lệnh của con người. Vì vậy, “hệ thống tự hành” (autonomous system) là một cỗ máy, phần cứng hoặc phần mềm, mà khi được kích hoạt sẽ tự thực hiện một số nhiệm vụ hoặc tự hoạt động. Rô-bốt là một hệ thống không người điều khiển (uninhabited system) có khả năng tự vận hành ở một mức độ nhất định. Một cách khái quát, nó có khả năng cảm nhận và phản ứng với môi trường xung quanh.
Tuy nhiên, những hệ thống tự hành không chỉ giới hạn đối với các phương tiện không người điều khiển. Trên thực tế, các chức năng tự hành, hoặc tự động hóa hiện nay đều được tích hợp lên nhiều hệ thống có người điều khiển. Nhiều xe hơi đã được trang bị những loại thắng chống khóa, hệ thống điều khiển độ ma sát và thăng bằng, tay lái điện, dây an toàn tự thắt khẩn cấp và đệm khí. Các loại xe cao cấp hơn còn có thể được trang bị hệ thống lái xe thông minh, giữ làn đường tự động, tránh va đập và tự đậu xe. Đối với các loại chiến đấu cơ, hệ thống tự động phòng tránh va chạm mặt đất (auto-GCAS) có thể chiếm quyền điều khiển máy bay trong trường hợp viên phi công bị mất phương hướng và sắp lao xuống đất. Các máy bay thương mại hiện đại lại có mức độ tự động hóa cao trong từng giai đoạn của chuyến bay. Gia tăng mức độ tự động hóa hay khả năng tự hành có thể mang lại nhiều lợi ích, như tăng độ an toàn và độ tin cậy, cải thiện thời gian phản ứng và năng lực, giảm gánh nặng về nhân lực để tiết kiệm chi phí, và khả năng thực hiện các chiến dịch khi thông tin liên lạc bị gián đoạn hay trong môi trường khắc nghiệt.
Phân tích mức độ tự hành của một hệ thống có ý nghĩa quan trọng để hiểu được các thách thức và cơ hội đi kèm trong việc gia tăng mức độ tự hành. Có một khoảng cách lớn hiển nhiên giữa một máy Roomba và một “Kẻ huỷ diệt”. Thay vì tìm kiếm trong vô vọng một bộ khung thống nhất về “các cấp độ tự vận hành”, sẽ hiệu quả hơn nếu ta nhìn nhận khả năng tự hành theo 3 trục hoặc phương diện khác nhau. Những phương diện này là độc lập, và tự hành không chỉ tồn tại trên một phương diện, mà là đồng thời trên cả ba phương diện đó.
Ba phương diện của tính tự vận hành
Việc tìm hiểu tính tự vận hành trở nên khó khăn là vì ta thường sử dụng cùng một từ để diễn đạt cả ba khái niệm hoàn toàn khác nhau, bao gồm:
- Mối quan hệ chỉ huy và kiểm soát giữa con người và máy móc (The human-machine command and control relationship)
- Mức độ phức tạp của một cỗ máy (The complexity of the machine)
- Loại chức năng được tự động hóa (The type of decision being automated)
Đây đều là các yếu tố quan trọng đối với các hệ thống tự hành. Tuy nhiên, chúng đều là các phạm trù khác nhau.
Mối quan hệ chỉ huy và kiểm soát giữa con người và máy móc
Máy móc thực hiện một chức năng trong một khoảng thời gian nhất định, sau đó dừng lại và chờ con người nhập lệnh để tiếp tục hoạt động, thường được gọi là “bán tự hành” (semiautonomous, hay còn có một thuật ngữ khác là “human in the loop”. Các loại máy móc có khả năng tự thực hiện hoàn chỉnh một chức năng, mà con người chỉ có vai trò quan sát nhưng có thể can thiệp nếu máy móc hỏng hóc hay gặp trục trặc, thì được gọi là “tự hành có giám sát” (human-supervised autonomous, hay “human on the loop”). Những loại máy có khả năng tự thực hiện hoàn chỉnh một chức năng và con người không thể can thiệp được gọi là “tự hành hoàn toàn” (fully autonomous, hay “human out of the loop”). Theo cách hiểu này, “tự hành” không nói về trí thông minh của máy móc, mà về mối quan hệ giữa máy móc và người điều khiển.
Mức độ phức tạp của một cỗ máy
“Tự hành” cũng có một cách hiểu hoàn toàn khác đề cập tới mức độ phức tạp của hệ thống. Bất kể mối quan hệ chỉ huy và kiểm soát giữa người và máy móc có như thế nào đi chăng nữa, những từ như “tự động” (automatic), “tự động hóa” (automated), và “tự hành” thường được sử dụng để chỉ các mức độ phức tạp của máy móc. Khái niệm “tự động” được dùng để chỉ các hệ thống có khả năng đáp lại tác động của môi trường một cách đơn giản và máy móc. Điển hình của các hệ thống này có thể kể đến các dây bẫy, mìn, máy nướng bánh và các máy điều nhiệt thế hệ cũ. Khái niệm “tự động hóa” thường được dùng để chỉ các hệ thống phức tạp hơn, hoạt động có tính quy luật, như các mẫu xe hơi tự lái và các máy điều nhiệt hiện đại có khả năng lập trình. Đôi khi, khái niệm “tự hành” cũng được sử dụng cho các loại máy móc có khả năng tự định hướng, tự học hoặc tự thực hiện các hành vi nổi bật mà ta không thể đoán trước được thông qua dữ liệu lập trình của máy. Điển hình có thể kể đến loại rô-bốt có khả năng tự học cách đi đứng hoặc máy điều nhiệt Nest cũng có khả năng “tự học”.
Một số khác sử dụng khái niệm “tự hành” để chỉ những thực thể có trí thông minh (intelligence) và tự do ý chí (free will). Tuy nhiên, những khái niệm này cũng không giúp làm rõ thêm vấn đề. Trí tuệ nhân tạo (artificial intelligence) là một khái niệm đa nghĩa, được sử dụng cho một loạt các phạm trù, từ trí tuệ gần giống như con người hay trí tuệ siêu đẳng hơn con người trong một lĩnh vực nhất định, chẳng hạn như phần mềm chơi cờ vua (Deep Blue), trò chơi đố vui Jeopardy, hoặc lập trình kế hoạch sửa chữa tàu điện ngầm, đến các hệ thống trong tương lai có trí thông minh như con người hoặc siêu đẳng hơn con người trên mọi phương diện. Thế nhưng, vấn đề trí thông minh nói chung liệu có dẫn đến tự do ý chí, hay thậm chí liệu con người có tự do ý chí hay không, vẫn còn nhiều tranh cãi.
Điều thật sự tạo ra thách thức ở đây chính là việc không tồn tại ranh giới nào rõ ràng giữa các cấp độ phức tạp, từ “tự động” đến “tự động hóa” đến “tự hành” và đến “trí thông minh”, và mỗi người lại có một cách gọi tên khác nhau cho một hệ thống bất kỳ.
Loại chức năng được tự động hóa
Việc gọi một loại máy móc nào đó là “tự hành” hoặc “bán tự hành” sẽ hoàn toàn vô nghĩa nếu không xác định được nhiệm vụ hay chức năng mà nó được giao. Các quyết định khác nhau mà máy móc cần phải đưa ra thể hiện mức độ phức tạp và rủi ro khác nhau. Một quả mìn và một cái máy nướng bánh có mức rủi ro không hề giống nhau, mặc dù chúng đều loại bỏ yếu tố điều khiển của con người một khi được kích hoạt và đều sử dụng các hệ thống công tắc đơn giản. Tuy nhiên, nhiệm vụ được tự động hóa của mỗi vật lại rất khác nhau. Bất kỳ cỗ máy nào cũng có thể vừa có những nhiệm vụ được con người kiểm soát hoàn toàn, lại vừa có những nhiệm vụ khác tự hành hoàn toàn. Ví dụ, một “xe tự hành” có thể tự lái suốt quãng đường từ A tới B, nhưng người lái vẫn tự mình lựa chọn điểm đến cuối cùng. Như vậy, khái niệm tự hành chỉ áp dụng với một số chức năng nhất định.
“Tự hành hoàn toàn” là một cụm từ vô nghĩa
Từ góc độ này, câu hỏi khi nào chúng ta đạt được “tự hành hoàn toàn” là một vấn đề vô nghĩa. Khái niệm tự hành không tồn tại riêng rẽ trong bất kỳ một phạm trù nào. Viễn cảnh con người đối đầu với máy móc là một mô tuýp phổ biến của khoa học viễn tưởng. Một bộ khung lý thuyết tốt hơn cần xác định nhiệm vụ nào được thực hiện bởi con người và nhiệm vụ nào sẽ được thực hiện bởi máy móc. Một văn bản hướng dẫn gần đây của một số quốc gia NATO về tự hành cũng đã đưa ra kết luận tương tự khi đề xuất về một bộ khung xoay quanh “những chức năng tự hành” (autonomous functions) của các hệ thống, thay vì xác định toàn bộ một phương tiện hay một hệ thống là có khả năng “tự hành”.
Quan trọng hơn, ba phương diện về sự tự hành này lại độc lập với nhau. Trí tuệ hay mức độ phức tạp của máy móc là một khái niệm tách biệt khỏi các nhiệm vụ mà nó thực hiện. Việc một cỗ máy có trí thông minh, được gia tăng hoặc lập trình phức tạp hơn để thực hiện một nhiệm vụ, không nhất thiết đồng nghĩa rằng sẽ có nhiều nhiệm vụ hơn được chuyển quyền kiểm soát từ con người sang máy móc. Tương tự, mối quan hệ chỉ huy và kiểm soát giữa con người và máy móc là một vấn đề khác hoàn toàn với mức độ phức tạp của một hệ thống hay các nhiệm vụ mà nó thực hiện. Một máy điều nhiệt có thể tự hoạt động mà không cần sự giám sát hay can thiệp của con người khi bạn rời khỏi nhà, nhưng nó vẫn chỉ có thể thực hiện một nhóm nhất định các chức năng mà thôi.
Thay vì mãi tư duy về “tự hành hoàn toàn”, chúng ta nên tập trung vào sự tự hành tùy theo nhiệm vụ (tùy nhiệm – operationally-relevant autonomy): một sự tự hành “vừa đủ” để hoàn thành công việc được giao. Tùy vào từng nhiệm vụ, môi trường và quá trình liên lạc, các chức năng đạt đến mức độ tự hành tùy nhiệm sẽ trở nên rất khác biệt trong từng hoàn cảnh khác nhau.
Trong lĩnh vực hàng không, tự hành tùy nhiệm có thể hiểu là khả năng tự cất cánh, hạ cánh, bay từ điểm này đến điểm kia của một máy bay dựa trên mệnh lệnh của con người, được giám sát và đưa ra quyết định bởi con người, nhưng không thông qua điều khiển vật lý trực tiếp bằng cần gạt và tay lái. Trong trường hợp đó, xét với các máy bay được tự động hóa cao như Global Hawk hay MQ-1C Gray Eagle, khả năng tự hành tùy nhiệm ngày nay đã được hiện thực hóa. Trong các môi trường mà thông tin liên lạc bị vô hiệu hóa, khả năng tự hành hiện nay là vừa đủ để các máy bay hoàn thành những nhiệm vụ tuần tra trinh sát, làm nhiễu hoặc không kích các mục tiêu cố định đã được lập trình từ trước (mặc dù các nhiệm vụ không kích đòi hỏi sự can dự của con người).
Đối với các phương tiện trên bộ, tự hành tùy nhiệm có thể mang ý nghĩa gần như khả năng một phương tiện tự lái theo mệnh lệnh của con người mà không cần điều khiển vật lý trực tiếp. Hiện nay, khả năng tự hành tùy nhiệm được áp dụng đối với các chiến dịch hành quân theo công nghệ dẫn đường – nối đuôi (leader-follower), hoặc các chiến dịch được con người giám sát. Tuy nhiên, tự hành tuỳ nhiệm vẫn chưa được ứng dụng vào định hướng trong trường hợp liên lạc bị cắt đứt, trong các môi trường phức tạp với nhiều người và chướng ngại vật. Trong khi đó, môi trường dưới lòng biển tuy khó liên lạc hơn nhưng lại có ít chướng ngại vật hơn nên khả năng tự hành tùy nhiệm nay đã được hiện thực hóa. Các phương tiện không người lái dưới lòng biển đã có thể thực hiện một số nhiệm vụ mà không cần sự giám sát của con người.
“Tự hành” không phải là một đích đến ta cần đạt được trong tương lai. Tự hành là một đặc tính sẽ được tích hợp ngày một nhiều vào các chức năng khác nhau trên các hệ thống quân sự, giống như việc xuất hiện ngày một nhiều các chức năng tự hành của xe hơi như: tự động giữ làn đường, tránh va đập, tự đậu xe… Theo đó, con người vẫn cần thiết trong nhiều nhiệm vụ quân sự, cụ thể là các nhiệm vụ yêu cầu sử dụng sức mạnh. Sẽ không có hệ thống nào trở nên “tự hành hoàn toàn” theo kiểu có thể tự thực hiện tất cả những nhiệm vụ quân sự tồn tại trên đời. Thậm chí, một hệ thống hoạt động trong một môi trường không có thông tin liên lạc vẫn bị ràng buộc bởi những gì mà nó được cho phép thực hiện. Con người sẽ vẫn đặt ra những thông số cho hoạt động, triển khai các hệ thống và lựa chọn các nhiệm vụ mà các hệ thống này phải thực hiện.
Vậy nên, nếu sau này có ai đó nói với bạn rằng “cỗ máy này có khả năng tự hành”, hãy hỏi thêm rằng, chính xác thì cỗ máy đó tự hành như thế nào.
Paul Scharre là nghiên cứu viên và Giám đốc Sáng kiến 20YY Warfare (20YY Warfare Initiative) tại Trung tâm An ninh Hoa Kỳ mới (CNAS). Ông cũng là tác giả của báo cáo mới đây của CNAS, Robotics on the Battlefield Part II: The Coming Swarm. Ông là cựu quân nhân của Trung đoàn Biệt kích số 75 từng phục vụ tại Afghanistan và Iraq.
Kỳ tiếp theo: Rô-bốt tham chiến: Ưu thế của số lượng
[1] Ở đây nói đến Chiến thuật Bù đắp – Offset Strategy – Một thuật ngữ trong ngành công nghiệp quốc phòng Mỹ hàm ý rằng nếu Mỹ sở hữu một loạt các đột phá trong công nghệ thì nước này sẽ duy trì được lợi thế của mình trước các kẻ thù tiềm năng. Mỹ đã từng có chiến thuật tương tự để đối phó với Liên Xô trong thời Chiến tranh lạnh. Chiến thuật này được cựu Bộ trưởng Quốc phòng Mỹ chính thức tuyên bố khởi động vào tháng 11-2014, lấy lợi thế công nghệ “bù đắp lại” phần sức mạnh bị mất đi do quá trình cắt giảm chi tiêu quốc phòng, số lượng quân đội của Mỹ. Xem thêm tại: http://breakingdefense.com/2014/11/hagel-launches-offset-strategy-lists-key-technologies/
[2] Roomba: Rô bốt máy hút bụi thông minh, có khả năng tự lau chùi sàn nhà mà không cần người điều khiển, thông tin chi tiết xem http://www.irobot.com/For-the-Home/Vacuum-Cleaning/Roomba.aspx
[3] Kẻ hủy diệt: Nhân vật trong loạt phim viễn tưởng “Terminator” của điện ảnh Mỹ, công chiếu lần đầu tiên vào năm 1984. Kẻ hủy diệt (Terminator) là một rô-bốt sát thủ có trí tuệ nhân tạo, có khả năng tự vận hành và tác chiến như con người.
