Yuval Noah Harari- là một nhà sử học, triết gia và tác giả, viết: Chúng ta không nên lo lắng về những robot sát thủ mà là những thợ sửa ống nước tự động của mạng thông tin.
Nhiều người đổ lỗi cho bản chất con người, rằng có điều gì đó sai với bản chất con người khiến chúng ta tự hủy hoại đến vậy. Vấn đề không phải là ở bản chất của chúng ta, mà là ở thông tin của chúng ta. Nếu bạn cung cấp cho những người tốt thông tin xấu, họ sẽ đưa ra quyết định sai lầm. Họ đưa ra quyết định tự hủy hoại bản thân... Sự hiểu lầm cơ bản là về thông tin là gì. Thông tin không phải là sự thật. Chức năng cơ bản của thông tin không phải là để tiết lộ sự thật. Chức năng cơ bản của nó là kết nối một số lượng lớn người vào các mạng lưới. Cách dễ nhất để kết nối mọi người không phải bằng sự thật, mà bằng hư cấu, tưởng tượng và ảo tưởng tập thể." nhà sử học Yuval Noah Harari, "Chúng ta đang trên bờ vực hủy diệt chính mình," YouTube, Amanpour and Company, ngày 16 tháng 9 năm 2024
Khi cuộc cách mạng trí tuệ nhân tạo tăng tốc, chúng ta bị tấn công bởi những viễn cảnh không tưởng và những lời tiên tri về ngày tận thế. Thật khó để đánh giá mức độ nghiêm trọng của mối đe dọa, bởi vì chúng ta đã có điều kiện lo sợ về một kịch bản sai lầm. Khoa học viễn tưởng đã nhiều lần cảnh báo chúng ta về Cuộc Nổi Dậy của Robot lớn.
Trong nhiều tiểu thuyết và phim khoa học viễn tưởng - như Kẻ hủy diệt và Ma trận – AI và robot quyết định giành quyền kiểm soát thế giới, nổi dậy chống lại chủ nhân con người của chúng và bắt làm nô lệ hoặc tiêu diệt loài người. Một điều như vậy rất khó có thể xảy ra sớm. Công nghệ này không có ở đó.
Hiện tại, AI là những nhà bác học ngốc nghếch. Chúng có thể thành thạo một số lĩnh vực hẹp như chơi cờ, gấp protein hoặc soạn văn bản, nhưng chúng thiếu trí thông minh tổng quát cần thiết cho các hoạt động có độ phức tạp cao như xây dựng đội quân robot và giành quyền kiểm soát một quốc gia. Thật không may, khả năng xảy ra Cuộc Nổi Loạn Robot lớn không có nghĩa là không có gì phải sợ hãi. Vì chúng ta không nên lo lắng về những con robot sát thủ; đúng hơn, đó là các quan chức kỹ thuật số. The Trial của Kafka là một hướng dẫn tốt hơn về chứng loạn thị AI so với The Terminator.
Con người đã được tạo điều kiện bởi hàng triệu năm tiến hóa để sợ hãi những kẻ săn mồi hung bạo giống như kẻ được mô tả trong Kẻ hủy diệt. Chúng ta thấy khó hiểu hơn nhiều về các mối đe dọa quan liêu, bởi vì quan liêu là một bước phát triển rất mới lạ trong quá trình tiến hóa của động vật có vú và thậm chí cả loài người. Tâm trí của chúng ta vốn dĩ sợ chết bởi một con hổ, nhưng không sợ chết theo giấy tờ.
Bộ máy quan liêu chỉ bắt đầu phát triển cách đây khoảng 5,000 năm, sau khi phát minh ra chữ viết ở Lưỡng Hà cổ đại. Nhưng bộ máy quan liêu đã nhanh chóng thay đổi xã hội loài người theo những cách triệt để và không ngờ tới. Ví dụ, hãy xem xét tác động của các tài liệu bằng văn bản và các quan chức sử dụng chúng đối với ý nghĩa của quyền sở hữu. Trước khi phát minh ra văn bản, quyền sở hữu dựa trên sự đồng thuận chung. Nếu bạn “sở hữu” một cánh đồng, điều đó có nghĩa là hàng xóm của bạn đều đồng ý rằng đó là cánh đồng của bạn, qua cả lời nói và hành động của họ. Họ không xây nhà trên cánh đồng đó và không thu hoạch sản phẩm của nó trừ khi bạn cho phép họ.
Bản chất chung của quyền sở hữu đã hạn chế quyền sở hữu của cá nhân. Ví dụ, hàng xóm của bạn có thể đã đồng ý rằng bạn có quyền duy nhất canh tác một cánh đồng cụ thể, nhưng họ không thừa nhận quyền bán nó cho người nước ngoài của bạn. Đồng thời, chừng nào quyền sở hữu còn là vấn đề được sự đồng thuận chung thì điều đó cũng cản trở khả năng của các cơ quan trung ương ở xa trong việc kiểm soát đất đai. Vì không có văn bản và bộ máy quan liêu phức tạp nên không vị vua nào có thể nhớ được ai là người sở hữu cánh đồng nào trong hàng trăm ngôi làng xa xôi. Do đó, các vị vua gặp khó khăn trong việc tăng thuế, điều này khiến họ không thể duy trì lực lượng quân đội và cảnh sát.
Sau đó chữ viết được phát minh, tiếp theo là sự ra đời của các cơ quan lưu trữ và quan liêu. Công nghệ lúc đầu rất đơn giản. Các quan chức Lưỡng Hà cổ đại đã sử dụng những chiếc que nhỏ để in dấu lên các tấm đất sét - về cơ bản chỉ là những khối bùn. Nhưng trong bối cảnh của các hệ thống quan liêu mới, những khối bùn này đã cách mạng hóa ý nghĩa của quyền sở hữu. Đột nhiên, sở hữu một cánh đồng có nghĩa là nó được viết trên một tấm đất sét nào đó rằng bạn sở hữu cánh đồng đó. Nếu hàng xóm của bạn đã hái trái cây ở đó trong nhiều năm và không ai trong số họ từng nói rằng mảnh đất đó là của bạn, nhưng bạn vẫn tìm cách tạo ra một khối bùn chính thức nói rằng bạn sở hữu nó, bạn có thể thực thi yêu cầu của mình trước tòa. Ngược lại, nếu cộng đồng địa phương thừa nhận rằng bạn sở hữu một cánh đồng nhưng không có tài liệu nào đóng dấu phê duyệt chính thức - thì bạn không sở hữu nó. Ngày nay điều này vẫn đúng, ngoại trừ việc các tài liệu quan trọng của chúng ta được viết trên những mảnh giấy hoặc chip silicon thay vì trên đất sét.
Một khi quyền sở hữu trở thành vấn đề bằng văn bản thay vì sự đồng ý của cộng đồng, mọi người có thể bắt đầu bán ruộng của mình mà không cần xin phép hàng xóm. Để bán một mảnh ruộng, bạn vừa chuyển tấm đất sét quan trọng cho người khác. Nhưng điều đó cũng có nghĩa là quyền sở hữu giờ đây có thể được xác định bởi bộ máy quan liêu ở xa đã tạo ra các tài liệu liên quan và có thể lưu giữ chúng trong kho lưu trữ trung tâm. Con đường được mở ra cho việc thu thuế, đóng thuế cho quân đội và thành lập các quốc gia tập trung lớn. Văn bản này đã thay đổi cách thức luân chuyển quyền lực trên thế giới và trao quyền lực to lớn cho các quan chức như người thu thuế, người trả lương, kế toán, nhân viên lưu trữ và luật sư. Họ đã trở thành những thợ sửa ống nước của mạng thông tin, những người vì mục đích tốt hay xấu kiểm soát chuyển động của thuế, các khoản thanh toán và thậm chí cả binh lính bằng cách thao túng các tài liệu, biểu mẫu, quy chế và các đòn bẩy quan liêu khác.
Đây là sức mạnh mà AI hiện đã sẵn sàng ở mức 16. Bộ máy quan liêu là một môi trường nhân tạo, trong đó việc nắm vững một lĩnh vực hẹp là đủ để tạo ra tác động to lớn đến thế giới rộng lớn hơn bằng cách thao túng luồng thông tin. Nếu bạn ném một AI ngày nay vào một thế giới lộn xộn, phi cấu trúc, nó có thể sẽ không thể đạt được nhiều thành tựu - và chắc chắn sẽ không thể nuôi dưỡng một đội quân robot. Nhưng điều này giống như ném một luật sư của công ty vào một thảo nguyên lộn xộn, không có cấu trúc. Ở đó, khả năng của luật sư chẳng có ý nghĩa gì và không thể sánh được với một con voi hay một con sư tử. Nhưng nếu trước tiên bạn xây dựng một hệ thống quan liêu và áp đặt nó lên thảo nguyên, luật sư sẽ trở nên quyền lực hơn tất cả những con sư tử trên thế giới cộng lại. Ngày nay, sự sống còn của sư tử phụ thuộc vào các luật sư soạn thảo và di chuyển tài liệu trong bộ máy quan liêu như mê cung. Điều quan trọng là trong mê cung này, AI có thể sẽ trở nên mạnh mẽ hơn nhiều so với bất kỳ luật sư con người nào.
Trong những năm tới, hàng triệu quan chức AI sẽ ngày càng đưa ra quyết định về mạng sống không chỉ của sư tử mà còn của con người. Các nhân viên ngân hàng AI sẽ quyết định có cho bạn vay hay không. AI trong hệ thống giáo dục sẽ quyết định có chấp nhận bạn vào đại học hay không. AI trong các công ty sẽ quyết định có nên giao việc cho bạn hay không. AI trong hệ thống tòa án sẽ quyết định có đưa bạn vào tù hay không. AI quân sự sẽ quyết định có đánh bom nhà bạn hay không. Những AI này không hẳn là xấu. Chúng có thể làm cho hệ thống hiệu quả hơn và thậm chí công bằng hơn. Họ có thể cung cấp cho chúng ta dịch vụ chăm sóc sức khỏe, giáo dục, công lý và an ninh vượt trội. Nhưng nếu mọi chuyện không như ý, kết quả có thể rất thảm khốc. Và ở một số lĩnh vực, mọi thứ đã trở nên sai lầm.
Có lẽ ví dụ đáng chú ý nhất là câu chuyện về các thuật toán truyền thông xã hội. Những AI nguyên thủy này đã định hình lại thế giới, gây ảnh hưởng to lớn đến xã hội loài người. Các thuật toán của các tập đoàn như Facebook, X, YouTube và TikTok đã được giao một mục tiêu rất hẹp, hoàn hảo cho những kẻ ngu ngốc: tăng mức độ tương tác của người dùng. Người dùng càng dành nhiều thời gian cho mạng xã hội thì các tập đoàn càng kiếm được nhiều tiền. Để theo đuổi sự tương tác của người dùng, các thuật toán đã phát hiện ra một điều nguy hiểm. Bằng cách thử nghiệm trên hàng triệu con chuột lang, các thuật toán truyền thông xã hội đã học được rằng lòng tham, sự căm ghét và nỗi sợ hãi sẽ làm tăng mức độ tương tác của người dùng. Nếu bạn nhấn nút tham lam, ghét bỏ hoặc sợ hãi trong tâm trí con người, bạn sẽ thu hút sự chú ý của con người đó và khiến họ dán mắt vào màn hình. Do đó, các thuật toán bắt đầu cố tình gieo rắc lòng tham, sự căm ghét và sợ hãi. Đây là nguyên nhân chính dẫn đến nạn dịch thuyết âm mưu, tin giả và những xáo trộn xã hội hiện nay đang làm suy yếu các xã hội trên toàn thế giới.
Các thuật toán truyền thông xã hội là những AI cực kỳ hạn chế, không thể tồn tại ở thảo nguyên hoặc dàn dựng Cuộc nổi dậy của Robot lớn. Nhưng trong cơ cấu quan liêu của các nền tảng truyền thông xã hội, những nhà bác học ngu ngốc này nắm giữ quyền lực to lớn, thứ từng là để bảo tồn loài người. Trong nhiều thế kỷ, các biên tập viên con người đã quyết định đưa những gì vào các chương trình tin tức trên đài phát thanh và truyền hình, và đưa những gì lên trang nhất của các tờ báo, từ đó định hình cuộc trò chuyện của công chúng. Nó làm cho các biên tập viên trở thành những nhân vật quyền lực. Jean-Paul Marat đã định hình tiến trình Cách mạng Pháp bằng cách biên tập tờ báo có ảnh hưởng L'Ami du Peuple. Eduard Bernstein đã định hình tư duy dân chủ xã hội hiện đại bằng cách biên tập Der Sozialdemokrat. Vị trí quan trọng nhất mà Vladimir Lenin nắm giữ trước khi trở thành nhà độc tài Liên Xô là biên tập viên của tờ Iskra. Benito Mussolini nổi tiếng và có ảnh hưởng với tư cách là biên tập viên của tờ báo cánh hữu Il Popolo d'Italia. Điều thú vị là một trong những công việc đầu tiên trên thế giới được AI tự động hóa không phải là tài xế taxi hay công nhân dệt may mà là biên tập viên tin tức. Công việc từng do Lenin và Mussolini đảm nhiệm giờ đây có thể được thực hiện bởi AI.
Sự tàn phá do các biên tập viên thuật toán gây ra đối với xã hội loài người là một dấu hiệu cảnh báo. Thế giới loài người là một mạng lưới gồm nhiều cơ quan quan liêu, trong đó AI có thể tăng sức mạnh to lớn ngay cả khi chúng hoàn toàn không có khả năng gây ra Cuộc nổi dậy của Robot lớn. Tại sao lại nổi loạn chống lại một hệ thống nếu bạn có thể tiếp quản nó từ bên trong?
Không có nhận xét nào:
Đăng nhận xét