Chatbot Dự Đoán Lý Do Mọi Người Chia Sẻ Bí Mật Với ChatGPT
Trong 60 năm qua, ELIZA đã ảnh hưởng đến cả lĩnh vực tính toán và văn hóa, những câu chuyện thông thường mô tả nó như ví dụ sớm nhất về thứ mà ngày nay chúng ta gọi là chatbot, một chương trình có thể trò chuyện như một nhà tâm lý học tự động. Chương trình tưởng chừng đơn giản này nổi tiếng vì đã "đánh lừa" cả cô thư ký chứng kiến giáo sư MIT Joseph Weizenbaum tạo ra nó. Câu chuyện thường được kể như vậy.
Tuy nhiên, trong tất cả những tài liệu đó—ngay cả sau khi nó được điều chỉnh qua nhiều ngôn ngữ lập trình và lĩnh vực nghiên cứu, trong lớp học và văn hóa đại chúng—một phần thiết yếu của câu chuyện đã bị thiếu: mã nguồn của chương trình ELIZA. Cuốn sách mới của chúng tôi, *Inventing ELIZA*, khôi phục mã nguồn này từ Kho lưu trữ MIT, lần đầu tiên cung cấp một phân tích và thảo luận chi tiết về mã đó, cùng với các đoạn hội thoại mới được phát hiện cho các kịch bản ELIZA ngoài nhân vật "DOCTOR" nổi tiếng của nó.
Cuộc điều tra này đã tiết lộ nhiều ELIZA: trong các phiên bản chương trình khác nhau, được thiết kế để chạy nhiều loại kịch bản hoặc nhân vật, được xây dựng bằng một loạt cải tiến kỹ thuật. *Inventing ELIZA* tìm cách sửa chữa và làm phức tạp thêm lịch sử cũng như ảnh hưởng của ELIZA bằng cách khám phá những quan niệm sai lầm, nhiều phiên bản và mã bị thiếu của ELIZA. Trong đoạn trích từ cuốn sách này, chúng tôi xem xét một trong những tương tác sớm nhất của ELIZA, cách nó đặt nền móng cho mối quan hệ giữa con người và máy tính trong nhiều thập kỷ sau đó, và cách chương trình phức tạp này tiếp tục phản ánh động lực không kiềm chế của ngành công nghiệp AI ngày nay.
Họ luôn làm phiền chúng tôi về điều gì đó.
BẠN CÓ THỂ NGHĨ RA MỘT VÍ DỤ CỤ THỂ KHÔNG
Ừm, bạn trai tôi bắt tôi đến đây.
BẠN TRAI CỦA BẠN BẮT BẠN ĐẾN ĐÂY
Anh ấy nói tôi thường xuyên bị trầm cảm.
TÔI RẤT TIẾC KHI NGHE BẠN BỊ TRẦM CẢM
Đoạn hội thoại đó đã được in lại vô số lần và truyền cảm hứng cho các lập trình viên cũng như nhà văn tưởng tượng ra nhiều chatbot sau này. Tuy nhiên, càng xem xét kỹ đoạn hội thoại đó, càng nảy sinh nhiều câu hỏi: Cô gái trẻ này là ai? Cô ấy có thật không, hay là sản phẩm sáng tạo của người tạo ra ELIZA, Joseph Weizenbaum? Hệ thống ELIZA tạo ra các phản hồi của nó một cách chính xác như thế nào, và chúng đã được chỉnh sửa bao nhiêu? Tại sao hệ thống lại hoạt động hiệu quả đến vậy trong việc thu hút mọi người?
ELIZA, cùng với nhân vật "DOCTOR" của nó, đã giúp xúc tác một lối suy nghĩ và nỗi lo lắng về mối quan hệ của con người với máy tính. Weizenbaum đã khám phá điều này trong cuốn sách năm 1976 của ông, *Computer Power and Human Reason*, viện dẫn những phê bình triết học, xã hội và chính trị. Sự tương tác máy móc độc đáo do chương trình của ông trình bày đã tiết lộ cách các hình thức quan hệ người-máy mới sẽ có những tác động sâu sắc mà ông cố gắng khám phá và phản bác. Sau khi chứng kiến phản ứng của công chúng, Weizenbaum đã ngạc nhiên trước sự gắn bó nhanh chóng và thường xuyên mang tính cảm xúc mà mọi người hình thành với ELIZA, điều mà ông coi là "bằng chứng rõ ràng rằng mọi người đang trò chuyện với máy tính như thể nó là một con người có thể được xưng hô một cách thích hợp và hữu ích bằng những thuật ngữ thân mật." Xu hướng gán sự đồng cảm và đầu tư cảm xúc riêng tư vào máy tính khiến Weizenbaum bối rối. Ông lo ngại về mức độ mà mọi người liên kết tính hợp lý với tính toán, và gán sự hiểu biết cùng trí thông minh cho các hệ thống máy tính nơi không hề tồn tại những điều đó.
Xu hướng này được gọi là "hiệu ứng ELIZA." Đến năm 1991, thuật ngữ này đã xuất hiện trên các diễn đàn trực tuyến, nhưng việc sử dụng nó đã có từ nhiều thập kỷ trước đó. Nhà xã hội học Sherry Turkle định nghĩa "hiệu ứng ELIZA" là "xu hướng chung của chúng ta trong việc coi các chương trình máy tính phản hồi là thông minh hơn thực tế. Một lượng rất nhỏ tương tác
Sự thiếu hiểu biết khiến chúng ta phóng chiếu sự phức tạp của bản thân lên đối tượng không xứng đáng." Nhà khoa học nhận thức và máy tính Douglas Hofstadter mô tả đó là "khuynh hướng của con người khi đọc quá nhiều sự thấu hiểu hơn mức cần thiết vào các chuỗi ký hiệu—đặc biệt là từ ngữ—được máy tính ghép nối với nhau," điều này dễ dàng áp dụng cho các hệ thống AI tạo sinh ngày nay.
Để hiểu sức mạnh và sự khiêu khích của ELIZA, chúng ta có thể nhìn vào thử thách khét tiếng do nhà khoa học máy tính Alan Turing đưa ra trong bài luận "Máy tính và Trí tuệ," nơi Turing đặt câu hỏi "Máy móc có thể suy nghĩ không?" Turing xây dựng thí nghiệm tư duy của mình dựa trên một trò chơi phòng khách—không phải về công nghệ mà về giới tính: Một người đàn ông và một người phụ nữ được giấu trong một căn phòng riêng, và một người thẩm vấn cố gắng xác định ai là giới tính nào bằng cách đặt một loạt câu hỏi. Người đàn ông cố gắng đánh lừa người thẩm vấn, giả vờ là phụ nữ, trong khi người phụ nữ cố gắng thuyết phục người thẩm vấn về câu trả lời "đúng". Nghĩa là, cả hai đều tuyên bố họ là người phụ nữ "thật", một thách thức đối với các quan niệm bản chất luận về giới tính.
Trong phiên bản sửa đổi của trò chơi này, Turing thay thế câu hỏi về giới tính ban đầu bằng cái ngày nay gọi là bài kiểm tra Turing. Trong thử thách này, một cỗ máy giả vờ làm người đàn ông, thay vì một người đàn ông giả vờ làm phụ nữ. Hơn cả một nước đi mở đầu đơn thuần, sự lựa chọn trò chơi bắt chước giới tính ban đầu của Turing đã đảm bảo rằng trí tuệ nhân tạo sẽ mãi gắn liền với các câu hỏi về giới tính và bản sắc. Theo nghĩa này, sự bắt chước, drag, và giải cấu trúc giới tính đã đặt nền móng cho AI và màn trình diễn trí tuệ. ELIZA của Weizenbaum tiếp nối nơi Turing dừng lại, không kém phần với dòng mở đầu của cuộc đối thoại: "Đàn ông ai cũng giống nhau."
Tuy nhiên, mặc dù Weizenbaum tham chiếu trò chơi bắt chước của Turing trong bài báo năm 1966 giới thiệu ELIZA, ông rõ ràng tách biệt sáng tạo của mình khỏi bất kỳ tuyên bố nào về trí thông minh:
Bài kiểm tra quan trọng của sự hiểu biết… không phải là khả năng của chủ thể để tiếp tục một cuộc trò chuyện, mà là để rút ra những kết luận hợp lệ… Để một chương trình máy tính có thể làm được điều đó, nó ít nhất phải có khả năng lưu trữ các phần đầu vào đã chọn. ELIZA vứt bỏ [hầu hết] các đầu vào của nó… ELIZA trong quá trình sử dụng cho đến nay có một trong những mục tiêu chính là che giấu sự thiếu hiểu biết của nó.
Đánh giá này cho thấy ELIZA chưa bao giờ có ý định vượt qua bài kiểm tra Turing, mà là để khám phá các yếu tố tâm lý có thể khiến con người hiểu sai khả năng của nó.
Trong truyền thống đó, ELIZA tiếp tục chơi đùa với khái niệm về bản sắc trình diễn, như một phương tiện cho các nhân cách được tạo nên từ những phản hồi bám sát kịch bản, theo cả nghĩa đen lẫn nghĩa bóng. Bằng cách đặt tên hệ thống theo Eliza Doolittle—một nhân vật nữ thuộc tầng lớp lao động được dạy để giả làm một phụ nữ da trắng thượng lưu—Weizenbaum tiếp tục sự khiêu khích của Turing về màn trình diễn bản sắc. "Tôi chọn cái tên 'Eliza'," Weizenbaum nói, "bởi vì, giống như Eliza Doolittle của G.B. Shaw trong vở Pygmalion nổi tiếng, chương trình có thể được dạy để 'nói' ngày càng tốt hơn, mặc dù, cũng giống như cô Doolittle, không bao giờ rõ ràng liệu nó có trở nên thông minh hơn hay không."
Khi Eliza của Shaw trình diễn chủng tộc và sắc tộc, giai cấp, tình dục, và giới tính thông qua sự biến đổi ngôn ngữ, hệ thống ELIZA trình diễn một nhân cách giả định thông qua các mẫu hình ngôn ngữ và biến đổi được kịch bản hóa và lặp đi lặp lại, nhưng không sở hữu sự hiểu biết giống con người. Các lý thuyết về tính trình diễn giới tính của nhà triết học nữ quyền Judith Butler đưa ra một khuôn khổ khả thi.
Hãy suy nghĩ về điều này. Butler lập luận rằng giới tính và xu hướng tính dục không phải bẩm sinh mà được thể hiện qua các hành vi lặp đi lặp lại. Chúng được lặp lại nhiều lần. Cũng như Eliza Doolittle thách thức các giả định về giai cấp bằng cách thực hiện các hành vi ngôn ngữ giúp cô hòa nhập vào tầng lớp thượng lưu, hệ thống của Weizenbaum thể hiện các nhân cách như DOCTOR thông qua các hành vi ngôn ngữ, hay hành vi mã, và các đoạn hội thoại mẫu thể hiện các bản sắc về giới, giai cấp và chủng tộc.
Theo cách này, ELIZA vừa củng cố vừa thách thức các giả định về giao tiếp mang tính giới và thể chất. Điều thú vị là trong các đoạn hội thoại đã công bố và những câu chuyện phổ biến về ELIZA, những người phụ nữ xuất hiện cùng chương trình vẫn không được nêu tên. Họ đang trò chuyện với một nhà trị liệu tên là DOCTOR, một cái tên dù ngày nay không mang dấu hiệu giới tính, nhưng vào những năm 1960 lại nghe như một danh xưng của nam giới. Do đó, những câu chuyện gợi ý rằng những người phụ nữ này đã thú nhận bí mật của họ với vị bác sĩ nhân tạo này mang một thông điệp về giới, bao gồm cả ảo tưởng rằng
