NHÂN VĂN NHƯ MỘT COGNITIVE OPERATING SYSTEM
Từ Liberal Humanism đến Dataism: Lịch sử Vĩ mô của một hệ điều hành đang tự vượt qua chính mình
MỞ ĐẦU — NHÂN VĂN KHÔNG CHỈ LÀ MỘT HỆ GIÁ TRỊ, MÀ LÀ MỘT HỆ ĐIỀU HÀNH
Trong cách hiểu phổ biến, HUMANISM thường được dịch và diễn giải như một hệ tư tưởng đề cao con người: tự do, phẩm giá, quyền cá nhân, bình đẳng và khả năng tự quyết. Nhưng nếu nhìn từ MACRO HISTORY và FUTURE PHILOSOPHY, cách hiểu đó vẫn chưa đủ sâu.
Một cách nhìn mạnh hơn là xem HUMANISM như một COGNITIVE OPERATING SYSTEM — một hệ điều hành nhận thức quy định con người nhìn thế giới như thế nào, xác định điều gì là “thật”, điều gì là “đáng giá”, ai có quyền ra quyết định và mục đích cuối cùng của xã hội là gì.
Một OPERATING SYSTEM không trực tiếp tạo ra mọi hành động của người sử dụng. Nó tạo ra môi trường trong đó hành động trở nên khả thi. Tương tự, HUMANISM không trực tiếp quy định từng lựa chọn của mỗi cá nhân; nó cung cấp một tập hợp các nguyên tắc nền tảng:
- INDIVIDUAL là đơn vị có giá trị.
- HUMAN EXPERIENCE là nguồn quan trọng để xác định ý nghĩa.
- FREE WILL là cơ sở của trách nhiệm và lựa chọn.
- Con người có quyền định hình tương lai.
- Giá trị không nhất thiết phải đến từ một COSMIC PLAN.
- Khoa học giúp con người hiểu thế giới, trong khi HUMAN VALUES giúp xác định con người nên sử dụng tri thức đó như thế nào.
Theo logic của Homo Deus, lịch sử hiện đại có thể được nhìn như quá trình HUMANISM trở thành hệ điều hành thống trị của nền văn minh.
Nhưng điều nghịch lý là chính thành công của hệ điều hành này đang tạo ra những công nghệ có khả năng thách thức các tiền đề của nó: NEUROSCIENCE, BIOTECHNOLOGY, ARTIFICIAL INTELLIGENCE, BIG DATA và ALGORITHMIC DECISION-MAKING.
Vấn đề lớn của thế kỷ XXI vì thế không chỉ là “AI sẽ làm gì với con người?”. Câu hỏi sâu hơn là:
NẾU NHỮNG GIẢ ĐỊNH NỀN TẢNG CỦA HUMANISM KHÔNG CÒN ĐÚNG, HỆ ĐIỀU HÀNH NÀO SẼ THAY THẾ NÓ?
I. TỪ THẦN LINH ĐẾN CON NGƯỜI: SỰ RA ĐỜI CỦA HUMANISM
Để hiểu HUMANISM, trước hết phải hiểu nó thay thế điều gì.
Trong các xã hội tiền hiện đại, con người thường tìm kiếm ý nghĩa từ một COSMIC ORDER bên ngoài bản thân. Ý nghĩa của đời sống được xác định bởi:
- thần linh;
- truyền thống;
- tôn giáo;
- cộng đồng;
- trật tự vũ trụ;
- vai trò xã hội được định trước.
Câu hỏi trung tâm thường là:
“THẾ GIỚI MUỐN TÔI LÀM GÌ?”
Modernity dần đảo ngược câu hỏi đó thành:
“TÔI MUỐN GÌ?”
Đây chính là sự chuyển dịch từ THEOCENTRISM sang HUMAN-CENTERED WORLDVIEW.
Trong logic của HUMANISM, con người không còn đơn giản là một nhân vật trong một kịch bản được viết sẵn. Con người trở thành tác giả của câu chuyện đời mình.
Điều này tạo ra một sự thay đổi cực lớn trong cấu trúc nhận thức:
GOD → HUMAN
COSMIC PLAN → HUMAN EXPERIENCE
DIVINE AUTHORITY → INDIVIDUAL CHOICE
TRADITION → SELF-DETERMINATION
Nhưng điều đáng chú ý là HUMANISM không đơn giản phủ nhận mọi hệ thống ý nghĩa trước đó. Nó xây dựng một hệ thống mới có khả năng tổ chức xã hội ở quy mô lớn.
Trong tài liệu nguồn, HUMANISM được trình bày như một thỏa ước quan trọng giữa SCIENCE, kinh tế hiện đại và niềm tin vào năng lực của con người. Khoa học trả lời thế giới vận hành như thế nào; Humanism cung cấp một phần câu trả lời cho việc con người nên lựa chọn điều gì.
II. HUMANISM NHƯ MỘT COGNITIVE OPERATING SYSTEM
Nếu coi HUMANISM là một COGNITIVE OPERATING SYSTEM, ta có thể phân tích nó qua bốn lớp.
1. ONTOLOGY — THẾ GIỚI LÀ GÌ?
HUMANISM đặt con người vào trung tâm của hệ thống ý nghĩa.
Con người được xem là chủ thể có:
- trải nghiệm;
- cảm xúc;
- ý chí;
- quyền lựa chọn;
- khả năng tạo ý nghĩa.
2. EPISTEMOLOGY — TA BIẾT BẰNG CÁCH NÀO?
HUMANISM hiện đại ngày càng kết hợp với SCIENCE.
Nhưng khoa học và Humanism có chức năng khác nhau:
SCIENCE → WHAT IS
HUMANISM → WHAT OUGHT TO BE VALUED
Nguồn tài liệu nhấn mạnh rằng khoa học có thể giải thích những vấn đề thực tế nhưng không tự động quyết định các giá trị đạo đức.
3. ETHICS — CÁI GÌ LÀ TỐT?
Trải nghiệm của con người trở thành một nguồn quan trọng để xác định giá trị.
4. AGENCY — AI CÓ QUYỀN QUYẾT ĐỊNH?
Đây là điểm quan trọng nhất.
HUMANISM giả định rằng con người có AGENCY.
Nếu AGENCY bị phá vỡ, toàn bộ hệ điều hành bắt đầu gặp vấn đề.
III. HUMANISM KHÔNG PHẢI MỘT KHỐI THỐNG NHẤT: SỰ PHÂN LIỆT THÀNH BA NHÁNH
Một trong những luận điểm quan trọng của tài liệu là HUMANISM không phải một hệ tư tưởng hoàn toàn đồng nhất.
Nó phát triển thành ba hướng lớn:
- LIBERAL HUMANISM
- SOCIALIST HUMANISM
- EVOLUTIONARY HUMANISM
Ba nhánh này có cùng điểm xuất phát: CON NGƯỜI LÀ TRUNG TÂM CỦA GIÁ TRỊ.
Nhưng chúng trả lời khác nhau câu hỏi:
“CON NGƯỜI NÊN ĐƯỢC TỔ CHỨC NHƯ THẾ NÀO?”
IV. LIBERAL HUMANISM — “LISTEN TO YOURSELF”
LIBERAL HUMANISM đặt cá nhân ở trung tâm.
Tiền đề cốt lõi là:
MỖI CÁ NHÂN LÀ MỘT THẾ GIỚI ĐỘC NHẤT VÀ CÓ QUYỀN TỰ QUYẾT.
Do đó, xã hội nên bảo vệ:
- INDIVIDUAL FREEDOM
- INDIVIDUAL RIGHTS
- PERSONAL AUTONOMY
- SELF-DETERMINATION
Câu thần chú của Liberal Humanism có thể cô đọng thành:
“LISTEN TO YOUR FEELINGS.”
Con người nên nhìn vào trải nghiệm bên trong để quyết định điều gì phù hợp với mình.
Đây là một bước tiến lịch sử khổng lồ bởi nó giải phóng cá nhân khỏi nhiều cấu trúc áp đặt của:
- dòng họ;
- đẳng cấp;
- giáo hội;
- chế độ quân chủ;
- truyền thống.
Nhưng từ góc nhìn NEUROBIOLOGY, đây cũng là nơi xuất hiện một nghịch lý.
Nếu “tôi” không hoàn toàn kiểm soát chính bộ não của mình thì:
AI ĐANG THỰC SỰ RA QUYẾT ĐỊNH?
Tài liệu nguồn dẫn đến câu hỏi về FREE WILL, khi khoa học thần kinh mô tả hành vi như kết quả của các quá trình sinh hóa, neuron và tín hiệu thần kinh.
TINH HOA TÂM LÝ HỌC: Giải Mã Bản Chất Con Người & Ảo Tưởng Về Sự Tự Chủ
Như vậy, NEUROBIOLOGY bắt đầu tạo ra một áp lực triết học lên nền tảng của LIBERAL HUMANISM.
V. SOCIALIST HUMANISM — “LOOK AT THE OTHER”
Nếu Liberal Humanism hỏi:
“TÔI MUỐN GÌ?”
thì SOCIALIST HUMANISM hỏi:
“HÀNH ĐỘNG CỦA TÔI ẢNH HƯỞNG ĐẾN NGƯỜI KHÁC NHƯ THẾ NÀO?”
Trọng tâm chuyển từ:
INDIVIDUAL → COLLECTIVE
Các giá trị nổi bật gồm:
- equality;
- solidarity;
- collective welfare;
- redistribution;
- social justice.
Từ góc nhìn INSTITUTIONAL ECONOMICS, đây là một vấn đề về thiết kế thể chế.
Một xã hội không chỉ cần tạo ra WEALTH. Nó còn phải quyết định:
- ai sở hữu nguồn lực;
- ai nhận lợi ích;
- ai chịu chi phí;
- ai có quyền quyết định;
- các quy tắc phân phối được thiết kế như thế nào.
Đây là điểm mà Liberal và Socialist Humanism bắt đầu xung đột.
LIBERAL HUMANISM ưu tiên autonomy.
SOCIALIST HUMANISM ưu tiên equality và collective welfare.
Một bên sợ:
COLLECTIVE POWER → TYRANNY
Bên kia sợ:
INDIVIDUAL FREEDOM → INEQUALITY
Đây không chỉ là tranh luận chính trị. Đây là hai cách thiết kế SOCIAL OPERATING SYSTEM khác nhau.
VI. EVOLUTIONARY HUMANISM — KHI HUMANISM GẶP EVOLUTION
Nhánh thứ ba là EVOLUTIONARY HUMANISM.
Nếu Liberal Humanism coi trọng tự do và Socialist Humanism coi trọng bình đẳng, Evolutionary Humanism đặt trọng tâm vào:
- competition;
- struggle;
- selection;
- adaptation;
- improvement.
Từ góc nhìn EVOLUTIONARY DYNAMICS, sự khác biệt và cạnh tranh có thể tạo ra áp lực chọn lọc.
Nhưng khi chuyển nguyên lý sinh học sang xã hội, vấn đề trở nên nguy hiểm.
Bởi vì:
BIOLOGICAL FITNESS ≠ MORAL WORTH
Một cá thể có lợi thế tiến hóa không đồng nghĩa với việc cá thể đó “xứng đáng” hơn về mặt đạo đức.
Tài liệu nguồn cho thấy Evolutionary Humanism có thể nhìn mâu thuẫn và cạnh tranh như thành phần của tiến hóa, thậm chí coi xung đột là một trải nghiệm có giá trị.
Đây là nơi triết học chính trị phải đặt ra một ranh giới:
DESCRIPTIVE EVOLUTION ≠ NORMATIVE ETHICS
Việc thiên nhiên vận hành theo một cơ chế không có nghĩa con người phải tổ chức xã hội theo đúng cơ chế đó.
VII. BA NHÁNH THỰC RA LÀ BA CÂU TRẢ LỜI CHO MỘT CÂU HỎI
Có thể cô đọng ba nhánh:
| Hệ tư tưởng | Câu hỏi trung tâm | Giá trị ưu tiên |
| LIBERAL HUMANISM | Tôi muốn gì? | FREEDOM |
| SOCIALIST HUMANISM | Người khác cần gì? | EQUALITY |
| EVOLUTIONARY HUMANISM | Ai thích nghi tốt hơn? | COMPETITION / EVOLUTION |
Nhìn sâu hơn, cả ba đều vẫn dựa trên một giả định chung:
HUMAN BEINGS ARE THE PRIMARY SOURCE OF VALUE.
Và chính giả định này sẽ bị AI + DATAISM thách thức.
VIII. NEUROBIOLOGY: “TÔI” CÓ THỰC SỰ LÀ NGƯỜI RA QUYẾT ĐỊNH?
Đây là điểm mà MACRO HISTORY gặp NEUROBIOLOGY.
Liberal Humanism dựa mạnh vào ý tưởng:
FREE INDIVIDUAL
Nhưng khoa học thần kinh đặt câu hỏi về cấu trúc của “self”.
Tài liệu nguồn đề cập đến sự khác biệt giữa:
- EXPERIENCING SELF
- REMEMBERING SELF
EXPERIENCING SELF là cái đang trải nghiệm hiện tại.
REMEMBERING SELF là cái hồi tưởng và xây dựng câu chuyện về trải nghiệm.
Điều này có ý nghĩa lớn.
Con người thường tin rằng:
“TÔI BIẾT TÔI MUỐN GÌ.”
Nhưng nếu ký ức có thể được tái cấu trúc và lựa chọn bị ảnh hưởng bởi những quá trình mà ý thức không hoàn toàn kiểm soát, thì SELF-KNOWLEDGE không còn đơn giản.
Ở đây, Humanism bắt đầu gặp một nghịch lý:
HỆ ĐIỀU HÀNH DỰA TRÊN “SELF” ĐANG ĐƯỢC CHẠY TRÊN MỘT BỘ NÃO MÀ “SELF” CÓ THỂ KHÔNG HOÀN TOÀN HIỂU.
IX. INSTITUTIONAL ECONOMICS: HUMANISM ĐÃ XÂY DỰNG MỘT “MÁY TĂNG TRƯỞNG”
Humanism không chỉ là triết học. Nó kết hợp với CAPITALISM, SCIENCE và ECONOMIC GROWTH để tạo ra một hệ thống có khả năng tự củng cố.
Logic rất đơn giản:
SCIENCE → TECHNOLOGY → PRODUCTIVITY → ECONOMIC GROWTH → CAPITAL → MORE SCIENCE
Tài liệu nguồn mô tả cách ECONOMIC GROWTH trở thành niềm tin nền tảng của modernity. Nếu chiếc bánh kinh tế có thể lớn lên, xã hội không nhất thiết phải chỉ tranh giành chiếc bánh hiện tại.
Đây là một thay đổi cực lớn trong INSTITUTIONAL ECONOMICS.
Một nền kinh tế hiện đại không chỉ phân phối tài sản hiện có.
Nó cố gắng:
CREATE NEW VALUE.
Từ đó hình thành một vòng lặp:
BELIEF IN THE FUTURE → CREDIT → INVESTMENT → INNOVATION → GROWTH → MORE BELIEF IN THE FUTURE
Humanism vì vậy không chỉ giải phóng cá nhân.
Nó tạo ra một CIVILIZATIONAL ENGINE cho phép xã hội liên tục mở rộng năng lực sản xuất.
X. NHƯNG MỌI OPERATING SYSTEM ĐỀU CÓ BUG
Thành công của Humanism tạo ra một nghịch lý.
Nó giúp con người:
- tự do hơn;
- giàu có hơn;
- khỏe mạnh hơn;
- có nhiều quyền năng hơn;
- kiểm soát tự nhiên tốt hơn.
Nhưng chính những thành tựu đó lại làm suy yếu các giả định ban đầu của Humanism.
Ví dụ:
HUMANISM: Con người biết rõ bản thân.
NEUROSCIENCE: Có thể con người không hiểu hết chính mình.
HUMANISM: Con người tự do lựa chọn.
ALGORITHMS: Có thể hành vi có thể dự đoán được.
HUMANISM: Con người là chủ thể thông minh nhất.
AI: Trí tuệ có thể tồn tại ngoài não người.
HUMANISM: Con người là nguồn tạo ra ý nghĩa.
DATAISM: Có thể dữ liệu và algorithms trở thành trung tâm của hệ thống quyết định.
Đây chính là CIVILIZATIONAL PARADOX.
HUMANISM ĐÃ TẠO RA KHOA HỌC ĐỦ MẠNH ĐỂ ĐẶT CÂU HỎI VỀ CHÍNH HUMANISM.
XI. TỪ HUMANISM ĐẾN DATAISM
Đây có thể là bước chuyển lớn nhất.
Nếu Humanism nói:
“LISTEN TO YOUR INNER VOICE.”
thì DATAISM có thể nói:
“LISTEN TO THE ALGORITHM.”
Dataism nhìn thế giới như một hệ thống xử lý dữ liệu.
Trong logic này:
- biological organism là information-processing system;
- brain là information-processing system;
- computer là information-processing system;
- AI là information-processing system.
Khi đó, sự khác biệt căn bản giữa human và machine bắt đầu thay đổi.
Tài liệu nguồn mô tả một khả năng tương lai trong đó LIFE được nhìn như một quá trình xử lý dữ liệu và INTELLIGENCE có thể dần tách khỏi CONSCIOUSNESS.
Đây chính là điểm mà DATAISM trở thành đối thủ triết học của Humanism.
XII. ALGORITHM CÓ THỂ BIẾT BẠN TỐT HƠN CHÍNH BẠN
Đây không còn là một câu hỏi thuần triết học.
Nếu một hệ thống có đủ dữ liệu về:
- search history;
- shopping behavior;
- location;
- preferences;
- biometric signals;
- social behavior;
nó có thể dự đoán hành vi.
Khi đó:
DATA → PREDICTION → INFLUENCE
Nếu prediction đủ tốt, nó có thể tác động đến:
- lựa chọn;
- tiêu dùng;
- quan điểm;
- quan hệ;
- nghề nghiệp;
- đầu tư.
Tài liệu nguồn mô tả nguy cơ PERSONALIZATION, khi algorithms điều chỉnh thông tin theo đặc điểm từng cá nhân và có thể củng cố worldview hoặc bias hiện tại của họ.
Điều này tạo ra một sự chuyển dịch quyền lực:
POWER TO KNOW → POWER TO PREDICT → POWER TO INFLUENCE
Và cuối cùng:
POWER TO INFLUENCE → POWER TO GOVERN BEHAVIOR
XIII. TỪ TỰ DO ĐẾN THUẬT TOÁN: CUỘC KHỦNG HOẢNG CỦA AGENCY
Nếu LIBERAL HUMANISM xây dựng xã hội trên premise:
“INDIVIDUAL KNOWS BEST.”
thì Dataism đặt ra:
“WHAT IF THE ALGORITHM KNOWS BETTER?”
Nếu algorithm biết:
- bạn sẽ mua gì;
- bạn sẽ bỏ phiếu thế nào;
- bạn sẽ thích ai;
- bạn sẽ thay đổi quyết định ra sao;
thì nó có thể trở thành một DECISION INFRASTRUCTURE.
Con người ban đầu dùng algorithm để:
ASSIST
Sau đó:
RECOMMEND
Sau đó:
PREDICT
Cuối cùng có thể:
DECIDE
Đây là một quá trình AUTHORITY MIGRATION — quyền quyết định di chuyển từ con người sang hệ thống.
XIV. AI VÀ SỰ XUẤT HIỆN CỦA USELESS CLASS
Từ góc nhìn FUTURE OF WORK, AI không chỉ có khả năng thay thế lao động cơ bắp.
Điều đáng chú ý hơn là AI bắt đầu cạnh tranh với:
- cognitive work;
- analysis;
- pattern recognition;
- language;
- decision-making;
- creative tasks.
Tài liệu nguồn đặt ra nguy cơ hình thành USELESS CLASS — những người không chỉ mất việc mà còn có thể mất lợi thế kinh tế vì machines làm những công việc đó tốt hơn.
Đây là một thay đổi khác biệt về chất.
Trong quá khứ:
AUTOMATION → DISPLACEMENT → NEW JOBS
Nhưng nếu AI có thể liên tục học và nâng cấp:
DISPLACEMENT → RESKILLING → NEW AUTOMATION
vòng lặp có thể trở nên khó khăn hơn.
Vấn đề vì vậy không còn chỉ là:
“AI CÓ CƯỚP VIỆC KHÔNG?”
mà là:
“GIÁ TRỊ KINH TẾ CỦA CON NGƯỜI SẼ ĐƯỢC ĐỊNH NGHĨA NHƯ THẾ NÀO?”
XV. KHỦNG HOẢNG SAU CÙNG KHÔNG PHẢI LÀ KINH TẾ, MÀ LÀ MEANING
Nếu một xã hội đủ giàu để cung cấp UNIVERSAL BASIC INCOME, con người có thể không cần làm việc để tồn tại.
Nhưng điều đó không giải quyết:
PURPOSE
Một con người có thể:
- không đói;
- không nghèo;
- không thất nghiệp;
- không thiếu giải trí;
nhưng vẫn hỏi:
“TÔI SỐNG ĐỂ LÀM GÌ?”
Đây chính là nơi HUMANISM có thể vẫn giữ vai trò quan trọng.
Bởi nếu công nghệ giải quyết được SURVIVAL, câu hỏi tiếp theo sẽ là:
MEANING
Tài liệu nguồn cũng đặt vấn đề rằng nếu con người không có mục đích, sự dư thừa thời gian có thể dẫn đến boredom và emptiness.
XVI. TƯƠNG LAI KHÔNG PHẢI LÀ HUMANISM HAY DATAISM
Một cách đọc đơn giản có thể cho rằng:
HUMANISM → DATAISM → HUMANITY ENDS
Nhưng đây chưa chắc là cách hiểu tốt nhất.
Điều quan trọng hơn là nhận ra:
HUMANISM LÀ MỘT HỆ ĐIỀU HÀNH LỊCH SỬ, KHÔNG PHẢI MỘT ĐỊNH LUẬT TỰ NHIÊN.
Nó từng rất hiệu quả vì phù hợp với điều kiện:
- con người là chủ thể thông minh nhất;
- dữ liệu hạn chế;
- technology còn yếu;
- decision-making chủ yếu dựa vào human judgment.
Nhưng khi điều kiện thay đổi, hệ điều hành cũng phải tiến hóa.
Vấn đề tương lai vì thế không nhất thiết là:
REPLACE HUMANISM
mà có thể là:
UPGRADE HUMANISM.
XVII. MỘT HUMANISM MỚI CÓ THỂ PHẢI ĐƯỢC XÂY DỰNG
Một POST-HUMANIST HUMANISM có thể cần thừa nhận đồng thời bốn điều.
1. CON NGƯỜI KHÔNG HOÀN TOÀN RATIONAL
NEUROBIOLOGY cho thấy decision-making chịu ảnh hưởng bởi nhiều tầng sinh học và môi trường.
2. CON NGƯỜI KHÔNG HOÀN TOÀN AUTONOMOUS
Behavior có thể bị ảnh hưởng bởi:
- incentives;
- institutions;
- social networks;
- algorithms;
- biology.
3. INTELLIGENCE KHÔNG NHẤT THIẾT ĐỒNG NGHĨA VỚI CONSCIOUSNESS
AI có thể trở nên rất mạnh mà không cần có consciousness giống con người.
4. VALUE KHÔNG THỂ ĐƯỢC ỦY QUYỀN HOÀN TOÀN CHO ALGORITHM
Algorithm có thể tối ưu:
WHAT IS POSSIBLE
nhưng xã hội vẫn cần con người tranh luận về:
WHAT IS WORTH PURSUING.
XVIII. TRIẾT HỌC TƯƠNG LAI: CÂU HỎI KHÔNG PHẢI “AI THÔNG MINH HƠN?”, MÀ “AI CÓ QUYỀN ĐỊNH NGHĨA GIÁ TRỊ?”
Đây là điểm cuối cùng của toàn bộ lập luận.
Một algorithm có thể:
- dự báo;
- tối ưu;
- tính toán;
- phân loại;
- mô phỏng.
Nhưng một xã hội vẫn phải quyết định:
- sống lâu hơn có phải luôn tốt hơn không?
- giàu hơn có phải luôn tốt hơn không?
- hiệu quả hơn có phải luôn tốt hơn không?
- năng suất cao hơn có phải luôn tốt hơn không?
- một xã hội không còn việc làm có phải là xã hội tốt hơn không?
- một con người được nâng cấp gene có còn được xem là “human” theo nghĩa cũ không?
Đây là những câu hỏi mà OPTIMIZATION không thể tự trả lời.
Bởi:
AN ALGORITHM CAN OPTIMIZE A GOAL.
Nhưng:
WHO CHOOSES THE GOAL?
Đó mới là câu hỏi chính trị và triết học của thế kỷ XXI.
KẾT LUẬN — TỪ “I THINK, THEREFORE I AM” ĐẾN “I PROCESS DATA, THEREFORE I EXIST”?
Nếu nhìn toàn bộ lịch sử từ khoảng cách đủ xa, có thể thấy một chuỗi chuyển dịch:
GOD → HUMAN → SELF → BRAIN → DATA → ALGORITHM
Trong thế giới thần học:
GOD là trung tâm của ý nghĩa.
Trong HUMANISM:
HUMAN EXPERIENCE trở thành trung tâm.
Trong LIBERAL HUMANISM:
INDIVIDUAL SELF trở thành trung tâm.
Trong NEUROBIOLOGY:
SELF bắt đầu được nhìn như một hiện tượng sinh học phức tạp.
Trong DATAISM:
INFORMATION PROCESSING có thể trở thành đơn vị phân tích cơ bản.
Đây chính là cuộc chuyển đổi sâu nhất mà Homo Deus gợi ra.
Con người từng chiến đấu để thoát khỏi sự thống trị của tự nhiên.
Sau đó con người dùng SCIENCE để thống trị tự nhiên.
Rồi con người dùng BIOTECHNOLOGY để kiểm soát chính cơ thể mình.
Cuối cùng con người tạo ra AI — những hệ thống có thể bắt đầu cạnh tranh với chính năng lực nhận thức từng được xem là đặc quyền của Homo sapiens.
Vì thế, câu chuyện của HUMANISM không đơn giản là câu chuyện về quyền con người.
Nó là câu chuyện về AGENCY.
Ai là người có quyền nói:
“Đây là điều tôi muốn.”
Ai có quyền nói:
“Đây là điều xã hội nên hướng tới.”
Và sâu hơn nữa:
“Đây là điều đáng để tồn tại.”
Nếu thế kỷ XX là cuộc đấu tranh giữa LIBERAL HUMANISM, SOCIALIST HUMANISM và EVOLUTIONARY HUMANISM, thì thế kỷ XXI có thể mở ra một cuộc tranh luận còn căn bản hơn:
HUMAN JUDGMENT VS. ALGORITHMIC INTELLIGENCE.
Nhưng điều đáng sợ nhất không phải là machines trở nên thông minh hơn con người.
Điều đáng sợ hơn là:
CON NGƯỜI CÓ THỂ TỪ BỎ QUYỀN ĐỊNH NGHĨA MỤC ĐÍCH CỦA MÌNH TRƯỚC KHI NHẬN RA RẰNG MÌNH ĐÃ TỪ BỎ NÓ.
Do đó, nhiệm vụ quan trọng của tương lai không nhất thiết là chống lại AI, DATAISM hay TECHNOLOGY.
Nhiệm vụ là xây dựng một hệ điều hành nhận thức mới có khả năng kết hợp:
HUMAN DIGNITY + SCIENTIFIC REALISM + TECHNOLOGICAL POWER + INSTITUTIONAL WISDOM + ETHICAL AGENCY.
Một nền văn minh trưởng thành không phải là nền văn minh có những thuật toán mạnh nhất.
Mà là nền văn minh biết:
KHI NÀO NÊN TIN VÀO ALGORITHM — VÀ KHI NÀO CON NGƯỜI PHẢI GIỮ QUYỀN QUYẾT ĐỊNH.
Đó có thể là bài kiểm tra lớn nhất của HOMO SAPIENS trên hành trình tiến tới HOMO DEUS.
–