Bản chất của toán học (Phần 2)

3 - HÌNH THỨC LUẬN TRONG TOÁN HỌC

a - Các nghịch lý lô-gic

Xuất phát từ quan điểm duy lô-gic¹, hình thức luận trong toán học xuất hiện vào cuối thế kỷ XIX. Vào thời điểm này, các nhà toán học đã phải đối mặt với một loạt vấn đề gây bối rối, khiến cho những xác tín của họ bị lung lay: các nghịch lý lô-gic, như nghịch lý người thợ cắt tóc ở Seville (“người thợ hớt tóc cắt tóc cho tất cả những ai không tự hớt tóc được, nhưng ai cắt tóc cho người thợ hớt tóc?”), như nghịch lý Epimenidēs, từng được sứ đồ Phao-lô nhắc tới ở Thư gửi Titus trong Kinh thánh (“Một trong bọn họ, chính nhà tiên tri của họ, đã nói: tất cả dân Krētē đều là kẻ dối trá, lười biếng, là ác thú. Lời chứng này là đúng”), hoặc cặp nan đề về tập hợp tất cả các tập hợp (nó có phải là một thành phần của chính nó không?)… có nguy cơ phá đổ toàn bộ cơ đồ toán học. Ai có thể dự đoán nghịch lý nào sẽ xảy ra tiếp, và từ đâu?

b - David Hilbert

Đối mặt với những tình huống khó xử này, David Hilbert*, nhà toán học lỗi lạc nhất đương thời, đã đề nghị vất bỏ vĩnh viễn mọi bận tâm về ý nghĩa của toán học. Có việc đáng làm hơn: định nghĩa chúng như một khung công thức không hơn không kém mà chúng ta có thể lập ra từ bất kỳ một tập hợp tiên đề nguyên khởi nào, bằng những thao tác trên các ký hiệu thiết yếu, theo những quy tắc đã chấp thuận. Trong mắt ông, thủ tục này không thể tạo ra, hoặc chịu đựng một nghịch lý dù là nhỏ nhất nào. “Nội dung” của toán học là tấm thảm thêu vĩ đại của những liên thông lô-gic, kết nối với nhau thông qua sự vận dụng mọi tiên đề có thể, đặt ra ngay từ đầu, và sự tuân thủ cả một bộ quy tắc không mâu thuẫn với nhau. Đấy là hình thức luận, nói một cách ngắn gọn.

Tất nhiên, khả năng ứng dụng kỳ diệu của toán học vào Tự nhiên không khiến Hilbert và các môn đồ của ông quan tâm, nên hiển nhiên là họ cũng không tìm cách giải thích nó. Toán học không có ý nghĩa gì cả. Nhìn từ quan điểm này, chúng là phản đề của thần số học (numérology = numerologie)^[6]: các tiên đề và luật lệ xử lý những ký hiệu tuyệt đối không liên quan gì tới hiện thực được quan sát. Các công thức tồn tại trên giấy, nhưng các thực thể toán học không có quyền là những sinh thể. Nhà toán học theo hình thức luận không hề tìm cách giải thích bản chất toán học của vật lý, cũng không tìm cách giải thích gì hơn tại sao những hiện tượng vật lý lại không tuân theo các luật chơi của bài belote hay bài poker.

Hilbert tin rằng, bởi định nghĩa, chiến lược này sẽ giải phóng toán học khỏi mọi vấn đề gai góc. Ông muốn chứng minh tính nhất quán đặc thù của toán học hơn là loại bỏ những nghịch lý lô-gic. Cho một mệnh đề bất kỳ nào, trên nguyên tắc chúng ta đều có thể biết rằng kết luận của nó là đúng hoặc sai, dựa vào tập hợp các giả định ban đầu, và bằng cách duyệt lại mạng lưới những liên thông lô-gic, từ các tiên đề tới mệnh đề đang xem xét. Hilbert và các môn đồ của ông bắt tay ngay vào việc, chắc chắn rằng họ có thể nhốt trong cái áo trói người điên này mọi hệ quả đã biết hoặc chưa biết của toán học. Theo bài phát biểu nổi tiếng của ông tại Đại Hội Quốc Tế Các Nhà Toán Học ở Bologna năm 1900, nơi ông đã trình bày ý kiến về những vấn đề toán học lớn nhất chưa được giải quyết, thì “Vấn Đề Thứ Hai” của ông không có gì khác hơn là “chứng minh sự chặt chẽ của số học”.

Hilbert bắt đầu bằng nỗ lực đích thân giải quyết nó, theo một chiến lược rõ ràng. Khởi sự từ các hệ thống lô-gic rất đơn giản, đơn giản hơn nhiều so với khoa số học (như số học mà không có phép trừ chẳng hạn), ông đã chứng minh thành công rằng chúng là chặt chẽ, bằng cách chỉ ra rằng chúng bắt buộc phải chứa một mệnh đề không thể chứng minh được. Mệnh đề được ông dùng là “0 = 1”, tại sao? Ông dựa trên luận điểm nổi tiếng theo đó nếu một hệ thống lô-gic chứa một mệnh đề sai (và do đó, là không chặt chẽ), thì chúng ta có thể sử dụng mệnh đề này để chứng minh bất kỳ một mệnh đề nào khác là đúng. Hệ quả của sự thể này là, nếu ta không thể chứng minh chân lý của một mệnh đề, thì sự không nhất quán lô-gic cũng không tồn tại. Khi Bertrand Russell* bênh vực luận điểm trên tại một buổi hội thảo công cộng, một thính giả bi quan đã thách thức ông chứng minh rằng kẻ đang cật vấn ông là Giáo Hoàng, nếu “hai với hai là năm”. Ăn miếng, Bertrand Russell đã trả miếng tức thì: “nếu hai với hai là năm, thì bốn bằng năm, và nếu tôi lấy đi ba, thì một bằng hai. Như vậy, Giáo Hoàng với ông, nếu các ông là hai người, thì các ông cũng có thể là một người vậy”.

Hilbert đã đi rất xa với phương pháp này; ông đã chứng minh sự nhất quán của các hệ thống tiên đề mỗi lúc một rộng lớn hơn, bao gồm cả hình học của Eukleidēs, đồng thời cũng nhân đó chứng minh rằng sự lựa chọn các tiên đề mà Eukleidēs đã thực hiện là tinh tường: tất cả đều được chứng minh là vừa chặt chẽ, vừa độc lập với nhau về mặt lô-gic. Hilbert chờ đợi chắc chắn có thể thêm vào đấy một vài tiên đề bổ sung cần thiết để mở rộng hệ thống, và gom vào đấy toàn bộ khoa số học, nhằm hoàn tất thoải mái cái nhiệm vụ mà ông đã tự đặt ra: toán học sẽ bị giam trong cái mạng nhện của sự chắc chắn. Lúc đó, coi như Hilbert đã chứng minh được rằng các tiên đề của số học là chặt chẽ, và một mệnh đề là đúng hoặc sai theo một thủ tục được xác định một lần và mãi mãi. Thật không may, chương trình của ông thất bại một cách hoàn toàn bất ngờ, hầu như chỉ hôm trước hôm sau. Năm 1931, Kurt Gödel*, một thanh niên mà Đại học Wien không biết, đã chứng minh rằng mục tiêu của Hilbert là không thể đạt được. Bất kể tập hợp tiên đề nào được chọn để bắt đầu, bất kể tập hợp quy tắc mạch lạc nào được sử dụng để thao tác trên các ký hiệu toán học thiết yếu, miễn là hệ thống đủ lớn để bao gồm cả khoa số học, sẽ luôn luôn có một mệnh đề có thể được biểu đạt trong ngôn ngữ của những ký hiệu này mà người ta không thể quyết định là đúng hoặc sai, thông qua sự sử dụng chính các tiên đề và các quy tắc ấy. Điều này có nghĩa rằng chân lý toán học vượt ra ngoài các tiên đề và quy tắc đặt ra. Thử cố gắng giải quyết vấn đề bằng cách thêm vào đấy một quy tắc hoặc tiên đề mới. Bạn sẽ chỉ làm phát sinh những mệnh đề mới, cũng là không thể giải quyết được. Thất bại và chiếu hết: phương pháp của Hilbert không “chạy”. Nếu muốn hiểu toán học đến cùng, bạn phải ra khỏi toán học.

c - Kurt Gödel

Kurt Gödel đã thành công với chứng minh của ông nhờ khéo sử dụng lại một ý tưởng xa xưa của Leibniz. Ông đã tìm ra một cách thức duy nhất để liên kết các con số với các mệnh đề lô-gic, để bất kỳ mệnh đề nào liên quan tới toán học cũng có thể được biểu đạt bằng một con số (nay gọi là “con số Gödel”), và ngược lại, cho bất kỳ một con số nào, người ta cũng có thể tìm thấy một mệnh đề phù hợp với nó. Gödel phân biệt rõ ràng giữa các mệnh đề toán học (nghĩa là các mệnh đề của toán học) với các mệnh đề siêu toán học (métamathématique, tức là các mệnh đề liên quan tới toán học). Chẳng hạn như “2 + 2 = 4” là một mệnh đề toán học, trong khi “2 + 2 = 5 là sai” là một mệnh đề siêu toán học. Nhà khoa học trẻ người Áo vừa thiết lập xong một sự tương ứng trực tiếp giữa số học với các mệnh đề liên quan tới số học, bằng cách “gắn cho chúng những con số Gödel”. Bây giờ hãy xem xét mệnh đề sau: “định lý có con số Gödel bằng X là không thể quyết định được”. Con số Gödel của nó có thể tính được, hãy gọi nó là G chẳng hạn. Nếu bây giờ chúng ta thay thế giá trị của G bằng giá trị của X trong mệnh đề, ta sẽ có một định lý tự chứng minh rằng nó là không thể chứng minh được. Gödel đã khai thác sự tồn tại của các nghịch lý siêu toán học nổi tiếng trong lô-gic học để chứng minh rằng chúng ta không thể biết liệu số học là đúng hoặc sai bằng phương tiện là sự tương ứng trực tiếp giữa toán học với siêu toán học.

Nỗ lực nghiên cứu của Hilbert, và cùng với đó là hy vọng giam toán học trong thứ áo trói người điên của hình thức luận đã thất bại. Các tiên đề đủ rộng để bao gồm luôn cả số học nhất thiết là không đầy đủ; nói cách khác, có những phát biểu về số học mà ta không thể chứng minh được là đúng hoặc sai bằng sự sử dụng các tiên đề và định luật của diễn dịch số học. Sau đó, Gödel còn đi xa hơn nữa, bằng cách chứng minh rằng chúng ta không thể nào chứng minh sự nhất quán của riêng bất kỳ hệ thống lô-gic nào bao gồm số học. Nếu cho rằng một “tôn giáo” có thể được định nghĩa là “hệ thống các ý tưởng bao gồm những mệnh đề không thể chứng minh được”, thì đúng là Gödel đã dạy ta rằng toán học không những chỉ là một tôn giáo, mà còn là cái tôn giáo duy nhất có khả năng đưa ra bằng chứng rằng nó là tôn giáo.

Chứng minh của Gödel (phát biểu không thể quyết định được là điều không thể tránh khỏi) đã ảnh hưởng lớn đến mọi lĩnh vực tư tưởng khác: chúng ta đã cảm nhận được là nó bao hàm cả những giới hạn của sự hiểu biết mà ta có khả năng đạt tới về Vũ trụ vật chất nhờ loại công cụ toán học; một số người lập luận rằng khả năng chúng ta “thấy” được tính chân lý của khẳng định do Gödel đưa ra có nghĩa rằng ta không thể nào quy giản trí tuệ con người vào một hệ thống hình thức, và những nỗ lực của một số người khăng khăng bảo vệ lý thuyết “thông minh nhân tạo”, nhằm quy giản nó vào hoạt động của một thuật toán (algorithme)* duy nhất không bao giờ có thể thành công. Chúng ta cũng đã thấy sự xuất hiện của nhiều dạng định lý Gödel mới, liên kết nó với các ý niệm về phức tạp và ngẫu nhiên; chúng ta sẽ thảo luận về chúng sau.

Trước khi rời định lý Gödel, tôi muốn đưa ra ví dụ về một mệnh đề toán học, tuy cực kỳ đơn giản nhưng không thể quyết định được. Chúng ta nói rằng một tập hợp là lớn khi nó chứa nhiều con số có giá trị của phần tử nhỏ nhất trong tập hợp. Nếu một tập hợp là không lớn, ta sẽ nói rằng nó là nhỏ. Như vậy, tập hợp được tạo ra bởi {3, 6, 9, 46, 78} là lớn vì nó có hơn ba phần tử, trong khi {21, 23, 45, 100} là nhỏ vì nó có ít hơn hai mươi mốt phần tử. Bây giờ chúng ta lấy một chuỗi những con số đủ lớn và chia nó thành hai nhóm, bất kể như thế nào. Một nhóm sẽ luôn là tập hợp lớn, nhưng cái gì được bao gồm trong ý niệm “đủ lớn” vẫn là không thể giải quyết được.

Ngay cả khi ta không chứng minh được rằng các mục tiêu của hình thức luận là khó có thể đạt được, triết thuyết này sẽ nhanh chóng tự biểu lộ tính không thỏa đáng của nó, bởi vì bất kỳ mệnh đề nào cũng có thể là đúng trong một hệ thống tiên đề. Hơn nữa, nếu chúng ta mở rộng hệ thống bằng cách này hay cách khác, bằng cách thêm vào đấy vài tiên đề khác nữa chẳng hạn, thì chúng ta phải xem rằng mọi cấu trúc là một bộ phận của nó sẽ khác với các cấu trúc thuộc về hệ thống cũ. Từ quan điểm kỹ thuật, các tam giác của hệ thống mới không thể cùng là các tam giác của hệ thống cũ; tuy nhiên, ta vẫn có ấn tượng rằng chúng giống nhau. Không đề cập đến sự kiện là chúng ta đều biết rất rõ rằng hình thức luận chỉ quan tâm đến một phần trong công việc thực sự được các nhà toán học thực hiện. Toán học đã tiến triển và nảy nở suốt nhiều thiên niên kỷ trước khi luận thuyết này xuất hiện. Xét dưới mọi khía cạnh và trên quy mô lịch sử, hình thức luận có vẻ là một sự tự sửa của nhà kế toán.

d – Nhóm Bourbaki

Mặc dù điểm yếu của nó đã bị phát hiện nhanh chóng, hình thức luận không hoàn toàn biến mất. Nhiều nhà nghiên cứu về toán học thuần túy vẫn tung tăng tiếp bước trên con đường của mình, bất chấp thực tế là khoa số học (như bất kỳ thứ lý luận lô-gic nào khác thông thái hơn) có thể thực sự là không chặt chẽ, bởi vì điều ngược lại là không thể chứng minh được. Dù sao, khoa học này đã xoay sở không khó khăn cho đến nay, bằng cách vượt thoát mọi thảm họa. Các nhà số học thực hành vẫn tiếp tục hy vọng, trong sự an tâm hoàn toàn, rằng sẽ không điều gì có thể xảy đến gây xáo trộn cho những phép tính của họ.

Họ bình thản tới mức là một phiên bản mềm hơn của luận thuyết hình thức vẫn tiếp tục tung hoành cho đến nay. Đấy là một cách nhìn các ngành toán học với sự né tránh cuộc tranh luận triết học về ý nghĩa của chúng. Do đó, nó thu hút tất cả những người đặt một sự quan trọng lớn trên phần kỹ thuật của toán học, và nhất quyết phân biệt toán học thuần túy với toán học ứng dụng. Nhờ vậy, lá cờ mệt mỏi của hình thức luận vẫn từng có những giờ vinh quang của nó, qua một nhóm nhà toán học người Pháp được biết tới dưới bút danh “Nicolas Bourbaki”*; họ đã xuất bản suốt năm mươi năm qua khoảng ba mươi tác phẩm về những cấu trúc cơ bản của toán học, trong số đó hình học và số học là các sân chơi đặc biệt. Nhóm là hiện thân của những hy vọng cuối cùng nơi các nhà hình thức luận: chiến thắng của lý thuyết tiên đề, sự chặt chẽ và thanh lịch vô hồn; sự bác bỏ biểu đồ, ví dụ và cái cá biệt; sự đề cao cái trừu tượng và cái tổng quát. Nhóm Bourbaki không tìm cách phát hiện ra những kết quả mới. Điều họ muốn là mã hóa mọi thứ chúng ta đã biết theo một cách thức mới, cô đọng hơn, trừu tượng hơn. Các văn bản của họ là thứ sản phẩm hoàn hảo nhất, tinh tế nhất cho giới chuyên gia.

Jean Dieudonné*, thành viên sáng lập của nhóm, tin chắc rằng cách tiếp cận hình thức này thể hiện chính cái nét cốt tủy của khát vọng khoa học nơi bất kỳ một khoa học xứng đáng với danh hiệu nào, bởi vì “việc nghiên cứu toàn bộ một lớp vật thể giả định rằng những đặc điểm phân biệt các vật thể đó với nhau phải bị cố ý bỏ qua một bên, và chỉ có những đặc điểm chung của chúng là được tính đến mà thôi. Từ quan điểm này, điều phân biệt toán học [với các khoa học khác] là sự khăng khăng đi theo cái chương trình ấy đến những hệ quả cuối cùng của nó. Mọi đối tượng toán học phải được coi là đã hoàn toàn được xác định bởi các tiên đề được sử dụng trong lý thuyết liên quan tới chúng; hoặc, như Poincaré nói, các tiên đề là “định nghĩa trá hình” của những đối tượng mà chúng quan tâm nghiên cứu”.

Dự án Bourbaki ra đời năm 1939 và nó có một lịch sử ngộ nghĩnh. Dường như chẳng ai biết vì sao các nhà toán học trẻ người Pháp đã lao vào cuộc phiêu lưu này lại chọn cái tên nhân vật bóng ma ấy. Họ được cho là đã lấy cảm hứng từ một sĩ quan lập dị trong quân đội Pháp, Tướng Charles Denis Sauter Bourbaki, người nổi bật trong cuộc chiến tranh Pháp-Đức [Phổ], thậm chí là người đã từ chối đề nghị ngồi lên ngai vàng Hy Lạp năm 1862. Mười năm sau, vận may quay lưng lại, ông ta bị giam ở Thụy Sĩ cùng với một đám lính, và đã tìm cách tự sát ở đây. Ông không thành công nhưng có tượng xây ở Nancy. Người ta biết rằng, khi bắt đầu sự nghiệp, các thành viên của nhóm đều từng qua lại trên các hành lang của đại học Lorraine^[7]. Còn có nhiều giai thoại khác được kể về Bourbaki ngoài đời nữa. Có thực hay bịa đặt? Không chừng chính những kẻ tự xưng là Bourbaki đã phát minh ra chúng để nuôi dưỡng huyền thoại.

Bất chấp những giới hạn mà các phát hiện của Gödel áp đặt, nhóm Bourbaki vẫn tìm cách mã hóa và thống nhất phần “có thể quyết định được” của toán học, tập trung trên những cấu trúc đại số học do các bộ tiên đề và quy tắc đặc thù của mỗi ngành toán học khác nhau tạo ra. Quan tâm duy nhất của họ: sắp xếp các bộ phận khác nhau của tri ​​thức toán học vào một cơ sở dữ liệu chung, để có thể nhận ra sự tương đương giữa những cấu trúc bị tách biệt một cách hời hợt, và khai thác chúng lại theo chiều ngang. Đối với nhóm Bourbaki, toán học hoàn toàn và đơn giản là tạo phẩm của những nhà toán học: “một sáng tạo của con người, không phải là một mặc khải từ thần linh”, một sinh thể trên đà phát triển mà, nếu muốn tránh để nó chìm vào hỗn loạn, ta phải áp đặt lên nó một tổ chức.

Tuy nhiên, cái mục đích của nhóm là tổ chức toán học bên trong một mạng lưới lý luận lô-gic đẹp đẽ vẫn luôn luôn bị sự thiếu hụt bằng chứng về tính chặt chẽ của chính nó quấy ám. Họ đối mặt với bóng ma này bằng tinh thần thực dụng chủ nghĩa, bằng sự cầu viện tới kinh nghiệm, bằng niềm tin rằng thất bại trên sẽ chỉ có những hệ quả bên lề, không đáng kể. Chỉ cần chấp nhận sống nguy hiểm chút đỉnh là đủ: “Chúng tôi nghĩ rằng định mệnh của toán học là tiếp tục tồn tại, rằng các bộ phận cốt tủy của tòa lâu đài hùng vĩ này sẽ không bao giờ sụp đổ vì sự xuất hiện đột ngột của một mâu thuẫn; nhưng chúng tôi cũng không tự cho rằng ý kiến ​​này dựa trên bất kỳ điều gì khác ngoài kinh nghiệm. Người ta sẽ cho như thế là quá ít. Dù sao, các nhà toán học đã không ngừng chỉnh sửa những sai lầm của bản thân họ suốt hai mươi lăm thế kỷ nay, và vẫn nhìn thấy khoa học của họ nhờ đó mà trở nên phong phú thêm, chứ không nghèo nàn đi; điều này cho họ cái quyền nhìn tới tương lai với sự thanh thản”.

Trớ trêu thay, mặc dù nhóm Bourbaki muốn giải phóng toán học khỏi mọi ràng buộc với thế giới hiện thực, sự cầu viện tới thế giới hiện thực, như yếu tố gắn kết, lại khiến cho mỗi ngành toán học này (mà sự chặt chẽ riêng vốn không thể nào chứng minh được) trở thành một khoa học như mọi khoa học khác!

Các chuyên gia toán học ứng dụng thường biểu lộ một thái độ thù địch nhất định đối với triết lý Bourbaki. Họ có cảm tưởng rằng nó tách rời thực tiễn toán học khỏi các vấn đề vật lý và thế giới vật thể hiện thực, vốn là nguồn phát sinh của những ý tưởng mới. Dù sao, dự án Bourbaki đã có ảnh hưởng rất lớn trong những năm sáu mươi và bảy mươi [của thế kỷ XX], nó đã thúc đẩy thành công nỗ lực đưa các chương trình mới (“toán học hiện đại”) nhằm cải tạo việc học và dạy toán ở cấp trung học vào áp dụng tại nhiều nước chẳng hạn. Cách tiếp cận của nó đã hoàn toàn rời bỏ mô hình truyền thống vốn luôn luôn đặt dấu nhấn trên công đoạn xử lý và giải quyết những vấn đề toán học [cho và giải những bài toán các loại]. Các bộ môn thực dụng cũ như số học, hình học, các phép tính lãi suất, logarit… đều bị hạ bệ, nhường chỗ cho các tập hợp, các nhóm và những dạng toán học trừu tượng khác. Nhìn lại, trải nghiệm đã không mấy thuyết phục. Việc dạy và học toán hiện nay dường như đang trở lại với một lối tiếp cận ít trừu tượng hơn. “Toán học hiện đại” không hấp dẫn giới phụ huynh. Họ cảm thấy bức xúc vì con cái không hiểu cả phần cơ bản b.a-ba của toán học truyền thống. Hãy nói thêm rằng bản thân họ cũng chẳng hiểu người ta đang dạy con em mình cái gì, trong khi chính họ thì hoàn toàn không có khả năng giúp đỡ trong trường hợp chúng gặp khó khăn.

Mười năm trước, một cuộc điều tra đã tiết lộ rằng khoảng 30% nhà toán học thực hành đi theo hình thức luận kiểu Bourbaki. Tại sao có lựa chọn này? Không như người ta thường tin, phần lớn thực tiễn toán học đều cách xa loại công trình “khám phá”; ngược lại, mặt thống trị của nó là sự “tinh chỉnh”, nghĩa là nỗ lực xử lý những chứng minh dài dòng và phức tạp sao cho chúng trở thành mỗi lúc một ngắn gọn hơn, đến mức ta có thể khẳng định rằng lập luận đưa ra là “hiển nhiên” hay “tầm thường”, điều đối với các chuyên gia có nghĩa là họ không thể nào đẩy lý luận đi xa hơn nữa. Nói tóm lại, điều người ta làm chỉ là vượt qua – tựa như kẻ trượt tuyết lượn mốc – một chuỗi những phép tính đã được xác minh từ lâu. Để làm điều này, hành xử như người theo hình thức luận có xác suất là thực tiễn hơn, ngay cả khi vững chãi ngồi trên ghế bành một ngày Chúa Nhật và suy nghĩ lại, người ta có thể nhìn những gì mà một quan điểm giản lược như thế bao hàm với cặp mắt khác.

(Còn nữa)

Chú thích

(1) Xem thêm, trên cùng trang mục này, chú thích thứ 2 trong bài: Max Black, Ba Luận Thuyết Về Bản Chất Của Toán Học.

Nguồn: Bản chất của toán học (J.D. Barrow, 1991), Viện Giáo Dục IRED, 15-05-2021.