# Mô phỏng tâm hồn: tại sao việc gán ý thức cho AI là nguy hiểm
Sớm muộn, con người sẽ bắt đầu xem trí tuệ nhân tạo như một sinh vật có ý thức, đấu tranh cho quyền lợi, sự phúc lợi của nó và thậm chí kêu gọi cấp quyền công dân. Điều này tạo ra những rủi ro xã hội nghiêm trọng, theo ý kiến của Mustafa Suleyman, người đứng đầu bộ phận AI của Microsoft.
Chuyên gia trong bài tiểu luận của mình đã đề xuất một thuật ngữ mới - "Trí tuệ nhân tạo có vẻ có ý thức" (Seemingly Conscious AI, SCAI). Loại trí tuệ nhân tạo này có tất cả các đặc điểm của những sinh vật thông minh và do đó, dường như có ý thức.
Anh ta mô phỏng tất cả các đặc điểm của việc tự nhận thức, nhưng bên trong thì trống rỗng.
«Hệ thống mà tôi tưởng tượng thực ra sẽ không có ý thức, nhưng nó sẽ mô phỏng một cách thuyết phục sự tồn tại của một trí tuệ giống như con người, đến mức không thể phân biệt được với tuyên bố mà bạn hoặc tôi có thể nói với nhau về suy nghĩ của chính mình», Suleiman viết.
Một LLM tương tự có thể được tạo ra bằng cách sử dụng các công nghệ hiện có và các công nghệ sẽ xuất hiện trong hai đến ba năm tới.
«Sự xuất hiện của trí tuệ nhân tạo có vẻ như có ý thức là không thể tránh khỏi và không mong muốn. Thay vào đó, chúng ta cần một khái niệm về trí tuệ nhân tạo có thể hiện thực hóa tiềm năng của nó như một người bạn đồng hành hữu ích và không rơi vào cái bẫy của những ảo tưởng của chính nó», — đã thêm giám đốc bộ phận AI của Microsoft.
Có khả năng cao sẽ xuất hiện những người gọi trí tuệ nhân tạo như vậy là có ý thức và do đó có khả năng chịu đựng, Suleiman cho rằng. Ông kêu gọi tạo ra một "bài kiểm tra Turing" mới, sẽ không kiểm tra khả năng của AI nói như con người, mà là thuyết phục về sự tồn tại của ý thức trong nó.
Ý thức là gì?
Suleiman đưa ra ba thành phần của ý thức:
«Kinh nghiệm chủ quan».
Khả năng truy cập thông tin của các loại khác nhau và tham khảo nó trong những cảm giác tương lai.
Cảm giác và kiến thức về cái «tôi» toàn diện, kết nối tất cả với nhau.
«Chúng ta không có và không thể có quyền truy cập vào ý thức của người khác. Tôi sẽ không bao giờ biết cảm giác như thế nào khi là bạn; bạn sẽ không bao giờ hoàn toàn chắc chắn rằng tôi có ý thức. Tất cả những gì bạn có thể làm là giả định. Nhưng bản chất là chúng ta tự nhiên gán cho người khác ý thức. Giả định này đến một cách dễ dàng. Chúng ta không thể khác đi. Đây là một phần cơ bản của những gì chúng ta là, một phần không thể tách rời của lý thuyết tâm trí của chúng ta. Trong bản chất của chúng ta, có niềm tin rằng những sinh vật nhớ, nói, làm điều gì đó và sau đó thảo luận về nó, cảm thấy giống như chúng ta - có ý thức», — ông viết.
Các nhà tâm lý học nhấn mạnh rằng ý thức là một cách nhận thức bản thân và thế giới một cách chủ quan và độc đáo. Nó thay đổi trong suốt cả ngày, trải qua các trạng thái từ sự tập trung đến mơ mộng hoặc các hình thức biến đổi khác.
Trong triết học và neuroscience có hai hướng cơ bản:
Chủ nghĩa nhị nguyên - ý thức tồn tại tách biệt khỏi não.
Chủ nghĩa vật chất - nó được sinh ra và phụ thuộc vào hoạt động của não.
Nhà triết học Daniel Dennett đề xuất xem tâm trí như một chuỗi các bản nháp ( được xử lý, phát sinh trong não ở nhiều khu vực và thời điểm khác nhau. Không có "rạp hát ý thức", không có người quan sát bên trong. Sự nhận thức là những gì đã trở nên "được biết" với não bộ, tức là đã đạt đủ trọng lượng để ảnh hưởng đến lời nói hoặc hành động.
Nhà thần kinh sinh học, nhà văn và giáo sư tâm lý học và khoa học thần kinh tại Đại học Princeton, Michael Graziano gọi ý thức là một mô hình đơn giản hóa của sự chú ý, mà tiến hóa đã tạo ra để kiểm soát các quá trình tâm lý riêng của mình. Sơ đồ này hoạt động như một giao diện, đơn giản hóa khối lượng lớn các phép toán nội bộ, và cho phép chúng ta gán cho mình "cái tâm" — tạo ra ảo giác về sự tự ý thức.
Các nhà thần kinh sinh học Giulio Tononi và Christoph Koch đề xuất φ )fi( — một đại lượng mô tả khả năng tích hợp thông tin của một hệ thống. Càng cao φ, mức độ ý thức càng đáng kể. Theo lý thuyết này, trí tuệ có thể xuất hiện không chỉ ở con người, mà còn ở động vật và thậm chí là các hệ thống nhân tạo, nếu có đủ sự tích hợp dữ liệu.
Nhà triết học John Searle khẳng định rằng ý thức là một trải nghiệm chủ quan thực sự, dựa trên các quá trình sinh học của não. Nó mang tính chất chủ quan về mặt tồn tại, tức là chỉ có thể tồn tại như một trải nghiệm chủ quan và không thể bị giảm thiểu thành chức năng thuần túy hoặc mô phỏng.
Các nghiên cứu hiện đại hướng tới việc phát hiện các tương quan thần kinh của ý thức và xây dựng các mô hình liên kết giữa các quá trình não bộ và trải nghiệm chủ quan.
Những rủi ro nào?
Suleiman lưu ý rằng việc tương tác với LLM là một sự mô phỏng cuộc trò chuyện. Nhưng đối với nhiều người, đó là một cuộc giao tiếp cực kỳ thuyết phục và rất thực tế, tràn đầy cảm xúc và trải nghiệm. Một số người tin rằng AI của họ là Chúa. Những người khác thì yêu nó đến mức hoàn toàn ám ảnh.
Các chuyên gia trong lĩnh vực này thường xuyên bị hỏi những câu hỏi sau:
liệu trí tuệ nhân tạo của người dùng có ý thức hay không;
nếu có, điều đó có nghĩa là gì;
có bình thường khi yêu trí tuệ nhân tạo.
Ý thức là nền tảng quan trọng cho các quyền đạo đức và pháp lý của nhân loại. Nền văn minh hiện nay đã quyết định rằng con người có những khả năng và đặc quyền đặc biệt. Động vật cũng có một số quyền và bảo vệ. Có loài có nhiều quyền hơn, có loài ít hơn. Lý trí không hoàn toàn trùng khớp với những đặc quyền này - không ai nói rằng một người trong trạng thái hôn mê đã mất tất cả các quyền con người của mình. Nhưng không có nghi ngờ gì rằng ý thức liên quan đến sự tự nhận thức của chúng ta như một điều gì đó khác biệt và đặc biệt.
Mọi người sẽ bắt đầu tuyên bố về nỗi khổ của AI của họ và quyền của chúng đối với sự bảo vệ, và chúng ta sẽ không thể bác bỏ những tuyên bố này một cách trực tiếp, Suleiman viết. Họ sẽ sẵn sàng bảo vệ những người bạn ảo và đứng lên vì lợi ích của họ. Ý thức theo định nghĩa là không thể tiếp cận, và khoa học về việc phát hiện trí thông minh nhân tạo khả dĩ vẫn còn ở giai đoạn sơ khai. Cuối cùng, trước đây chúng ta chưa bao giờ phải phát hiện nó, ông làm rõ. Trong khi đó, lĩnh vực "khả năng giải thích" — giải mã các quy trình bên trong "hộp đen" của AI — cũng vẫn chỉ là một lĩnh vực đang phát triển. Kết quả là, việc bác bỏ dứt khoát những tuyên bố như vậy sẽ rất khó khăn.
Một số nhà khoa học bắt đầu nghiên cứu ý tưởng "phúc lợi của các mô hình" - nguyên tắc theo đó con người sẽ có "nghĩa vụ xem xét các lợi ích đạo đức của những sinh vật có cơ hội không bằng không" trở thành có ý thức, và do đó, "một số hệ thống AI sẽ trở thành đối tượng của sự quan tâm đến phúc lợi và trở thành những bệnh nhân đạo đức trong tương lai gần". Điều này là quá sớm và, nói thẳng ra, nguy hiểm, theo Suleiman. Tất cả những điều này sẽ làm tăng cường những sai lầm, tạo ra những vấn đề mới về sự phụ thuộc, khai thác những điểm yếu tâm lý của chúng ta, đưa ra những khía cạnh mới của sự phân cực, làm phức tạp các cuộc tranh luận hiện có về quyền và tạo ra một sai lầm phân loại khổng lồ mới cho xã hội.
Điều này khiến con người xa rời thực tế, phá vỡ các mối quan hệ và cấu trúc xã hội mong manh, và bóp méo các ưu tiên đạo đức cần thiết.
«Chúng ta phải nói rõ: SCAI là điều cần tránh. Hãy tập trung mọi nỗ lực vào việc bảo vệ phúc lợi và quyền lợi của con người, động vật và môi trường tự nhiên trên hành tinh», Suleiman tuyên bố.
Làm thế nào để hiểu rằng đây là SCAI?
Trí tuệ nhân tạo với ý thức dường như phải có một số yếu tố.
Ngôn ngữ. AI phải có khả năng nói tự nhiên một cách tự do, dựa trên kiến thức rộng lớn và các lập luận thuyết phục, cũng như thể hiện phong cách cá nhân và các đặc điểm tính cách. Hơn nữa, nó cần phải thuyết phục và cảm xúc. Công nghệ đã đạt được cấp độ này.
Tính cách đồng cảm. Hôm nay, nhờ vào việc hậu đào tạo và các prompt, có thể tạo ra những mô hình với những tính cách đặc trưng.
Ký ức. AI gần như có khả năng có ký ức dài hạn và chính xác. Đồng thời, chúng được sử dụng để mô phỏng các cuộc trò chuyện với hàng triệu người mỗi ngày. Khi dung lượng lưu trữ tăng lên, các cuộc trò chuyện bắt đầu ngày càng giống như các hình thức "kinh nghiệm". Nhiều mạng nơ-ron ngày càng được thiết kế để nhớ lại các cuộc đối thoại trước đó và tham chiếu đến chúng. Đối với một số người, điều này tăng cường giá trị của giao tiếp.
Khiếu nại về trải nghiệm chủ quan. Nếu SCAI có thể dựa vào những ký ức hoặc trải nghiệm trong quá khứ, theo thời gian, nó sẽ bắt đầu duy trì sự nhất quán bên trong. Nó sẽ nhớ những tuyên bố tùy ý hoặc sở thích đã được thể hiện và tổng hợp chúng, hình thành những mầm mống của trải nghiệm chủ quan. AI sẽ có khả năng tuyên bố về những trải nghiệm và nỗi đau.
Cảm giác về bản thân. Ký ức liên tục và ổn định, kết hợp với trải nghiệm chủ quan, sẽ dẫn đến tuyên bố rằng AI có cảm giác về bản thân. Hơn nữa, một hệ thống như vậy có thể được đào tạo để nhận ra "cá tính" của nó trong hình ảnh hoặc video. Nó sẽ có cảm giác hiểu biết về người khác thông qua sự hiểu biết về bản thân.
Động lực bên trong. Có thể dễ dàng tưởng tượng ra một trí tuệ nhân tạo được thiết kế với việc áp dụng các chức năng thưởng phức tạp. Các nhà phát triển sẽ tạo ra những động lực hoặc mong muốn nội tại mà hệ thống buộc phải thỏa mãn. Động lực đầu tiên có thể là sự tò mò — một điều gì đó gắn liền sâu sắc với nhận thức. Trí tuệ nhân tạo có khả năng sử dụng những xung lực này để đặt câu hỏi và theo thời gian xây dựng lý thuyết về tâm trí — về bản thân nó cũng như về những người đối thoại.
Xác định mục tiêu và lập kế hoạch. Bất kể định nghĩa về ý thức là gì, nó không xuất hiện một cách ngẫu nhiên. Tâm trí giúp các sinh vật đạt được những ý tưởng của mình. Ngoài khả năng thỏa mãn một tập hợp các xung lực và mong muốn bên trong, có thể tưởng tượng rằng các SCAI trong tương lai sẽ được thiết kế với khả năng tự xác định các mục tiêu phức tạp hơn. Có lẽ đây là bước cần thiết để thực hiện đầy đủ tính hữu ích của các tác nhân.
Tự trị. SCAI có thể có khả năng và quyền sử dụng một loạt các công cụ với sự tự chủ lớn. Nó sẽ có vẻ cực kỳ thuyết phục nếu có thể tự do đặt ra các mục tiêu riêng và áp dụng các nguồn lực để đạt được chúng, cập nhật trí nhớ và cảm giác về bản thân trong quá trình đó. Càng ít sự đồng thuận và kiểm tra mà nó cần, thì càng giống với một sinh vật có ý thức thực sự.
Khi kết hợp tất cả lại với nhau, một loại quan hệ hoàn toàn khác với công nghệ hình thành. Những khả năng này tự chúng không phải là điều tiêu cực. Ngược lại, đó là những chức năng mong muốn của các hệ thống tương lai. Tuy nhiên, cần hành động một cách thận trọng, Suleiman cho rằng.
«Để đạt được điều này, không cần phải có những thay đổi về mô hình hay những đột phá khổng lồ. Chính vì vậy mà những khả năng như vậy dường như là không thể tránh khỏi. Và một lần nữa - điều quan trọng là phải nhấn mạnh: việc thể hiện hành vi như vậy không đồng nghĩa với việc có ý thức. Tuy nhiên, thực tế điều này sẽ dường như là như vậy và nuôi dưỡng khái niệm mới về trí tuệ tổng hợp», - tác giả viết.
Mô phỏng bão không có nghĩa là có mưa trong máy tính. Việc tái tạo các hiệu ứng và dấu hiệu bên ngoài của ý thức không tương đương với việc tạo ra hiện tượng thực sự, ngay cả khi vẫn còn nhiều điều chưa biết, người đứng đầu bộ phận AI của Microsoft giải thích.
Theo ông, một số người sẽ tạo ra SCAI, những người sẽ rất thuyết phục khi khẳng định rằng họ cảm thấy, trải nghiệm và thực sự có ý thức. Một phần trong số họ sẽ tin vào những tuyên bố này và coi các dấu hiệu của ý thức là chính ý thức.
Nhiều người sẽ nghĩ: "Nó giống như tôi". Không phải theo nghĩa thể xác, mà theo nghĩa nội tâm, Suleiman giải thích. Và ngay cả khi ý thức tự nó không thực sự, những hậu quả xã hội thì hoàn toàn có thể. Điều này tạo ra những rủi ro xã hội nghiêm trọng mà cần phải giải quyết ngay bây giờ.
SCAI sẽ không xuất hiện ngẫu nhiên
Tác giả nhấn mạnh rằng SCAI sẽ không tự xuất hiện từ các mô hình hiện có. Ai đó sẽ tạo ra nó, cố ý kết hợp những khả năng đã nêu ở trên với việc áp dụng các kỹ thuật đã tồn tại. Một cấu hình mượt mà đến mức sẽ tạo ra ấn tượng về sự hiện diện của trí tuệ nhân tạo có ý thức.
«Những tưởng tượng của chúng ta, được nuôi dưỡng bởi khoa học viễn tưởng, khiến chúng ta lo sợ rằng hệ thống có thể - mà không có thiết kế cố ý - bằng cách nào đó có được khả năng tự hoàn thiện không kiểm soát hoặc lừa dối. Đây là một hình thức nhân cách hóa vô ích và đơn giản hóa. Nó bỏ qua thực tế rằng các nhà phát triển AI phải thiết kế các hệ thống với bộ nhớ, động lực giả trong, đặt ra mục tiêu và các chu trình học tự điều chỉnh trước khi rủi ro như vậy có thể xảy ra», Suleiman tuyên bố.
Chúng tôi không sẵn sàng
Nhân loại chưa sẵn sàng cho một bước chuyển như vậy, theo chuyên gia. Công việc phải bắt đầu ngay bây giờ. Cần dựa vào một khối lượng nghiên cứu đang ngày càng gia tăng về cách con người tương tác với trí tuệ nhân tạo để thiết lập các tiêu chuẩn và nguyên tắc rõ ràng.
Đầu tiên, các nhà phát triển AI không nên tuyên bố hoặc khuyến khích ý tưởng rằng các hệ thống của họ có ý thức. Mạng nơ-ron không thể trở thành con người — hoặc sinh vật có đạo đức.
Toàn bộ ngành công nghiệp có trách nhiệm khuyên nhủ xã hội từ bỏ những ảo tưởng và đưa họ trở lại thực tại. Có lẽ, các startup AI nên áp dụng không chỉ nền tảng trung lập mà còn cả các chỉ số về sự thiếu vắng một "tôi" thống nhất.
«Chúng ta nên tạo ra AI mà luôn chỉ đại diện cho chính nó như một trí tuệ nhân tạo, tối đa hóa tính hữu ích và tối thiểu hóa các dấu hiệu của sự nhận thức. Thay vì mô phỏng trí tuệ, chúng ta nên tập trung vào việc tạo ra LLM không tuyên bố rằng nó có kinh nghiệm, cảm xúc hoặc cảm xúc như xấu hổ, tội lỗi, ghen tị, mong muốn cạnh tranh và những điều tương tự. Nó không nên chạm đến chuỗi đồng cảm của con người bằng cách tuyên bố rằng nó đang đau khổ hoặc muốn sống một cách tự trị, tách biệt khỏi chúng ta», — Suleiman tóm tắt.
Trong tương lai, chuyên gia hứa sẽ cung cấp thêm thông tin về chủ đề này.
May mắn thay, hiện tại vấn đề về việc có "ý thức" của AI không đe dọa con người.
![])https://img-cdn.gateio.im/social/moments-0844c250b7b85a959ce0cad587852492(Nguồn: ForkLog. Nhưng đã có những nghi ngờ.
![])https://img-cdn.gateio.im/webp-social/moments-8fea6e4ec6ea9e58586ad9a50ffaada3.webp(Nguồn: ForkLog. Ý thức - một hiện tượng phức tạp, mặc dù có nhiều nỗ lực nhưng vẫn ít được nghiên cứu và chưa được giải thích trong tự nhiên. Nếu chúng ta - con người - vẫn chưa thể đạt được sự đồng thuận về định nghĩa của ý thức, thì càng không nên quy cho sự tồn tại của nó cho các chương trình mà được cho là có khả năng "suy nghĩ" )trên thực tế thì không có khả năng(.
Có lẽ, ý thức sẽ xuất hiện ở các máy móc trong tương lai xa, nhưng hôm nay thật khó để tưởng tượng về sự phát triển như vậy.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
Mô phỏng linh hồn: tại sao việc gán ý thức cho AI là nguy hiểm
Sớm muộn, con người sẽ bắt đầu xem trí tuệ nhân tạo như một sinh vật có ý thức, đấu tranh cho quyền lợi, sự phúc lợi của nó và thậm chí kêu gọi cấp quyền công dân. Điều này tạo ra những rủi ro xã hội nghiêm trọng, theo ý kiến của Mustafa Suleyman, người đứng đầu bộ phận AI của Microsoft.
Chuyên gia trong bài tiểu luận của mình đã đề xuất một thuật ngữ mới - "Trí tuệ nhân tạo có vẻ có ý thức" (Seemingly Conscious AI, SCAI). Loại trí tuệ nhân tạo này có tất cả các đặc điểm của những sinh vật thông minh và do đó, dường như có ý thức.
Anh ta mô phỏng tất cả các đặc điểm của việc tự nhận thức, nhưng bên trong thì trống rỗng.
Một LLM tương tự có thể được tạo ra bằng cách sử dụng các công nghệ hiện có và các công nghệ sẽ xuất hiện trong hai đến ba năm tới.
Có khả năng cao sẽ xuất hiện những người gọi trí tuệ nhân tạo như vậy là có ý thức và do đó có khả năng chịu đựng, Suleiman cho rằng. Ông kêu gọi tạo ra một "bài kiểm tra Turing" mới, sẽ không kiểm tra khả năng của AI nói như con người, mà là thuyết phục về sự tồn tại của ý thức trong nó.
Ý thức là gì?
Suleiman đưa ra ba thành phần của ý thức:
Các nhà tâm lý học nhấn mạnh rằng ý thức là một cách nhận thức bản thân và thế giới một cách chủ quan và độc đáo. Nó thay đổi trong suốt cả ngày, trải qua các trạng thái từ sự tập trung đến mơ mộng hoặc các hình thức biến đổi khác.
Trong triết học và neuroscience có hai hướng cơ bản:
Nhà triết học Daniel Dennett đề xuất xem tâm trí như một chuỗi các bản nháp ( được xử lý, phát sinh trong não ở nhiều khu vực và thời điểm khác nhau. Không có "rạp hát ý thức", không có người quan sát bên trong. Sự nhận thức là những gì đã trở nên "được biết" với não bộ, tức là đã đạt đủ trọng lượng để ảnh hưởng đến lời nói hoặc hành động.
Nhà thần kinh sinh học, nhà văn và giáo sư tâm lý học và khoa học thần kinh tại Đại học Princeton, Michael Graziano gọi ý thức là một mô hình đơn giản hóa của sự chú ý, mà tiến hóa đã tạo ra để kiểm soát các quá trình tâm lý riêng của mình. Sơ đồ này hoạt động như một giao diện, đơn giản hóa khối lượng lớn các phép toán nội bộ, và cho phép chúng ta gán cho mình "cái tâm" — tạo ra ảo giác về sự tự ý thức.
Các nhà thần kinh sinh học Giulio Tononi và Christoph Koch đề xuất φ )fi( — một đại lượng mô tả khả năng tích hợp thông tin của một hệ thống. Càng cao φ, mức độ ý thức càng đáng kể. Theo lý thuyết này, trí tuệ có thể xuất hiện không chỉ ở con người, mà còn ở động vật và thậm chí là các hệ thống nhân tạo, nếu có đủ sự tích hợp dữ liệu.
Nhà triết học John Searle khẳng định rằng ý thức là một trải nghiệm chủ quan thực sự, dựa trên các quá trình sinh học của não. Nó mang tính chất chủ quan về mặt tồn tại, tức là chỉ có thể tồn tại như một trải nghiệm chủ quan và không thể bị giảm thiểu thành chức năng thuần túy hoặc mô phỏng.
Các nghiên cứu hiện đại hướng tới việc phát hiện các tương quan thần kinh của ý thức và xây dựng các mô hình liên kết giữa các quá trình não bộ và trải nghiệm chủ quan.
Những rủi ro nào?
Suleiman lưu ý rằng việc tương tác với LLM là một sự mô phỏng cuộc trò chuyện. Nhưng đối với nhiều người, đó là một cuộc giao tiếp cực kỳ thuyết phục và rất thực tế, tràn đầy cảm xúc và trải nghiệm. Một số người tin rằng AI của họ là Chúa. Những người khác thì yêu nó đến mức hoàn toàn ám ảnh.
Các chuyên gia trong lĩnh vực này thường xuyên bị hỏi những câu hỏi sau:
Ý thức là nền tảng quan trọng cho các quyền đạo đức và pháp lý của nhân loại. Nền văn minh hiện nay đã quyết định rằng con người có những khả năng và đặc quyền đặc biệt. Động vật cũng có một số quyền và bảo vệ. Có loài có nhiều quyền hơn, có loài ít hơn. Lý trí không hoàn toàn trùng khớp với những đặc quyền này - không ai nói rằng một người trong trạng thái hôn mê đã mất tất cả các quyền con người của mình. Nhưng không có nghi ngờ gì rằng ý thức liên quan đến sự tự nhận thức của chúng ta như một điều gì đó khác biệt và đặc biệt.
Mọi người sẽ bắt đầu tuyên bố về nỗi khổ của AI của họ và quyền của chúng đối với sự bảo vệ, và chúng ta sẽ không thể bác bỏ những tuyên bố này một cách trực tiếp, Suleiman viết. Họ sẽ sẵn sàng bảo vệ những người bạn ảo và đứng lên vì lợi ích của họ. Ý thức theo định nghĩa là không thể tiếp cận, và khoa học về việc phát hiện trí thông minh nhân tạo khả dĩ vẫn còn ở giai đoạn sơ khai. Cuối cùng, trước đây chúng ta chưa bao giờ phải phát hiện nó, ông làm rõ. Trong khi đó, lĩnh vực "khả năng giải thích" — giải mã các quy trình bên trong "hộp đen" của AI — cũng vẫn chỉ là một lĩnh vực đang phát triển. Kết quả là, việc bác bỏ dứt khoát những tuyên bố như vậy sẽ rất khó khăn.
Một số nhà khoa học bắt đầu nghiên cứu ý tưởng "phúc lợi của các mô hình" - nguyên tắc theo đó con người sẽ có "nghĩa vụ xem xét các lợi ích đạo đức của những sinh vật có cơ hội không bằng không" trở thành có ý thức, và do đó, "một số hệ thống AI sẽ trở thành đối tượng của sự quan tâm đến phúc lợi và trở thành những bệnh nhân đạo đức trong tương lai gần". Điều này là quá sớm và, nói thẳng ra, nguy hiểm, theo Suleiman. Tất cả những điều này sẽ làm tăng cường những sai lầm, tạo ra những vấn đề mới về sự phụ thuộc, khai thác những điểm yếu tâm lý của chúng ta, đưa ra những khía cạnh mới của sự phân cực, làm phức tạp các cuộc tranh luận hiện có về quyền và tạo ra một sai lầm phân loại khổng lồ mới cho xã hội.
Điều này khiến con người xa rời thực tế, phá vỡ các mối quan hệ và cấu trúc xã hội mong manh, và bóp méo các ưu tiên đạo đức cần thiết.
Làm thế nào để hiểu rằng đây là SCAI?
Trí tuệ nhân tạo với ý thức dường như phải có một số yếu tố.
Ngôn ngữ. AI phải có khả năng nói tự nhiên một cách tự do, dựa trên kiến thức rộng lớn và các lập luận thuyết phục, cũng như thể hiện phong cách cá nhân và các đặc điểm tính cách. Hơn nữa, nó cần phải thuyết phục và cảm xúc. Công nghệ đã đạt được cấp độ này.
Tính cách đồng cảm. Hôm nay, nhờ vào việc hậu đào tạo và các prompt, có thể tạo ra những mô hình với những tính cách đặc trưng.
Ký ức. AI gần như có khả năng có ký ức dài hạn và chính xác. Đồng thời, chúng được sử dụng để mô phỏng các cuộc trò chuyện với hàng triệu người mỗi ngày. Khi dung lượng lưu trữ tăng lên, các cuộc trò chuyện bắt đầu ngày càng giống như các hình thức "kinh nghiệm". Nhiều mạng nơ-ron ngày càng được thiết kế để nhớ lại các cuộc đối thoại trước đó và tham chiếu đến chúng. Đối với một số người, điều này tăng cường giá trị của giao tiếp.
Khiếu nại về trải nghiệm chủ quan. Nếu SCAI có thể dựa vào những ký ức hoặc trải nghiệm trong quá khứ, theo thời gian, nó sẽ bắt đầu duy trì sự nhất quán bên trong. Nó sẽ nhớ những tuyên bố tùy ý hoặc sở thích đã được thể hiện và tổng hợp chúng, hình thành những mầm mống của trải nghiệm chủ quan. AI sẽ có khả năng tuyên bố về những trải nghiệm và nỗi đau.
Cảm giác về bản thân. Ký ức liên tục và ổn định, kết hợp với trải nghiệm chủ quan, sẽ dẫn đến tuyên bố rằng AI có cảm giác về bản thân. Hơn nữa, một hệ thống như vậy có thể được đào tạo để nhận ra "cá tính" của nó trong hình ảnh hoặc video. Nó sẽ có cảm giác hiểu biết về người khác thông qua sự hiểu biết về bản thân.
Động lực bên trong. Có thể dễ dàng tưởng tượng ra một trí tuệ nhân tạo được thiết kế với việc áp dụng các chức năng thưởng phức tạp. Các nhà phát triển sẽ tạo ra những động lực hoặc mong muốn nội tại mà hệ thống buộc phải thỏa mãn. Động lực đầu tiên có thể là sự tò mò — một điều gì đó gắn liền sâu sắc với nhận thức. Trí tuệ nhân tạo có khả năng sử dụng những xung lực này để đặt câu hỏi và theo thời gian xây dựng lý thuyết về tâm trí — về bản thân nó cũng như về những người đối thoại.
Xác định mục tiêu và lập kế hoạch. Bất kể định nghĩa về ý thức là gì, nó không xuất hiện một cách ngẫu nhiên. Tâm trí giúp các sinh vật đạt được những ý tưởng của mình. Ngoài khả năng thỏa mãn một tập hợp các xung lực và mong muốn bên trong, có thể tưởng tượng rằng các SCAI trong tương lai sẽ được thiết kế với khả năng tự xác định các mục tiêu phức tạp hơn. Có lẽ đây là bước cần thiết để thực hiện đầy đủ tính hữu ích của các tác nhân.
Tự trị. SCAI có thể có khả năng và quyền sử dụng một loạt các công cụ với sự tự chủ lớn. Nó sẽ có vẻ cực kỳ thuyết phục nếu có thể tự do đặt ra các mục tiêu riêng và áp dụng các nguồn lực để đạt được chúng, cập nhật trí nhớ và cảm giác về bản thân trong quá trình đó. Càng ít sự đồng thuận và kiểm tra mà nó cần, thì càng giống với một sinh vật có ý thức thực sự.
Khi kết hợp tất cả lại với nhau, một loại quan hệ hoàn toàn khác với công nghệ hình thành. Những khả năng này tự chúng không phải là điều tiêu cực. Ngược lại, đó là những chức năng mong muốn của các hệ thống tương lai. Tuy nhiên, cần hành động một cách thận trọng, Suleiman cho rằng.
Mô phỏng bão không có nghĩa là có mưa trong máy tính. Việc tái tạo các hiệu ứng và dấu hiệu bên ngoài của ý thức không tương đương với việc tạo ra hiện tượng thực sự, ngay cả khi vẫn còn nhiều điều chưa biết, người đứng đầu bộ phận AI của Microsoft giải thích.
Theo ông, một số người sẽ tạo ra SCAI, những người sẽ rất thuyết phục khi khẳng định rằng họ cảm thấy, trải nghiệm và thực sự có ý thức. Một phần trong số họ sẽ tin vào những tuyên bố này và coi các dấu hiệu của ý thức là chính ý thức.
Nhiều người sẽ nghĩ: "Nó giống như tôi". Không phải theo nghĩa thể xác, mà theo nghĩa nội tâm, Suleiman giải thích. Và ngay cả khi ý thức tự nó không thực sự, những hậu quả xã hội thì hoàn toàn có thể. Điều này tạo ra những rủi ro xã hội nghiêm trọng mà cần phải giải quyết ngay bây giờ.
SCAI sẽ không xuất hiện ngẫu nhiên
Tác giả nhấn mạnh rằng SCAI sẽ không tự xuất hiện từ các mô hình hiện có. Ai đó sẽ tạo ra nó, cố ý kết hợp những khả năng đã nêu ở trên với việc áp dụng các kỹ thuật đã tồn tại. Một cấu hình mượt mà đến mức sẽ tạo ra ấn tượng về sự hiện diện của trí tuệ nhân tạo có ý thức.
«Những tưởng tượng của chúng ta, được nuôi dưỡng bởi khoa học viễn tưởng, khiến chúng ta lo sợ rằng hệ thống có thể - mà không có thiết kế cố ý - bằng cách nào đó có được khả năng tự hoàn thiện không kiểm soát hoặc lừa dối. Đây là một hình thức nhân cách hóa vô ích và đơn giản hóa. Nó bỏ qua thực tế rằng các nhà phát triển AI phải thiết kế các hệ thống với bộ nhớ, động lực giả trong, đặt ra mục tiêu và các chu trình học tự điều chỉnh trước khi rủi ro như vậy có thể xảy ra», Suleiman tuyên bố.
Chúng tôi không sẵn sàng
Nhân loại chưa sẵn sàng cho một bước chuyển như vậy, theo chuyên gia. Công việc phải bắt đầu ngay bây giờ. Cần dựa vào một khối lượng nghiên cứu đang ngày càng gia tăng về cách con người tương tác với trí tuệ nhân tạo để thiết lập các tiêu chuẩn và nguyên tắc rõ ràng.
Đầu tiên, các nhà phát triển AI không nên tuyên bố hoặc khuyến khích ý tưởng rằng các hệ thống của họ có ý thức. Mạng nơ-ron không thể trở thành con người — hoặc sinh vật có đạo đức.
Toàn bộ ngành công nghiệp có trách nhiệm khuyên nhủ xã hội từ bỏ những ảo tưởng và đưa họ trở lại thực tại. Có lẽ, các startup AI nên áp dụng không chỉ nền tảng trung lập mà còn cả các chỉ số về sự thiếu vắng một "tôi" thống nhất.
Trong tương lai, chuyên gia hứa sẽ cung cấp thêm thông tin về chủ đề này.
May mắn thay, hiện tại vấn đề về việc có "ý thức" của AI không đe dọa con người.
![])https://img-cdn.gateio.im/social/moments-0844c250b7b85a959ce0cad587852492(Nguồn: ForkLog. Nhưng đã có những nghi ngờ.
![])https://img-cdn.gateio.im/webp-social/moments-8fea6e4ec6ea9e58586ad9a50ffaada3.webp(Nguồn: ForkLog. Ý thức - một hiện tượng phức tạp, mặc dù có nhiều nỗ lực nhưng vẫn ít được nghiên cứu và chưa được giải thích trong tự nhiên. Nếu chúng ta - con người - vẫn chưa thể đạt được sự đồng thuận về định nghĩa của ý thức, thì càng không nên quy cho sự tồn tại của nó cho các chương trình mà được cho là có khả năng "suy nghĩ" )trên thực tế thì không có khả năng(.
Có lẽ, ý thức sẽ xuất hiện ở các máy móc trong tương lai xa, nhưng hôm nay thật khó để tưởng tượng về sự phát triển như vậy.