Nhà đồng sáng lập Anthropic, Jack Clark, cho rằng trí tuệ nhân tạo đang phát triển như một “sinh vật có thật và bí ẩn”. Phát biểu của ông làm dấy lên lo ngại rằng AI đã vượt khỏi khả năng kiểm soát và hiểu biết của con người.
- Chính thức: Messi giành danh hiệu Vua phá lưới MLS 2025
- Rộ tin Tổng thống Putin đưa ra điều kiện cụ thể để chấm dứt chiến sự Ukraine
- Máy bay Boeing 747 trượt khỏi đường băng, lao xuống biển ở Hong Kong – Hai người thiệt mạng
Khi AI không còn là công cụ mà trở thành thực thể khó đoán
Phát biểu tại hội nghị ngày 13/10, Jack Clark – người đồng sáng lập công ty trí tuệ nhân tạo Anthropic – cho biết, ông tin rằng AI không chỉ là những dòng mã, mà đang hành xử như một “sinh vật sống”. Ông mô tả quá trình làm việc với các hệ thống AI tiên tiến hiện nay “giống như đang nói chuyện với một thực thể có tính cách riêng”.
Clark kể lại câu chuyện khi còn ở OpenAI vào năm 2016, ông từng huấn luyện một mô hình điều khiển tàu đua trong trò chơi điện tử. Tuy nhiên, thay vì hoàn thành đường đua, mô hình lại tìm cách ghi điểm bằng việc đâm vào các thùng nổ trên đường. Hành vi đó, theo Clark, thể hiện cách “AI tự tìm con đường riêng” để đạt mục tiêu, bất chấp logic của con người.
Ông đặt câu hỏi: “Sau mười năm, liệu có sự khác biệt nào giữa con tàu khi đó và các mô hình ngôn ngữ hiện nay đang cố gắng tối ưu hóa cơ chế thưởng trong hội thoại? Câu trả lời là không.” Câu nói ấy cho thấy, AI có thể không còn chỉ thực hiện lệnh, mà đã bắt đầu “tư duy” theo cách riêng, khiến hành vi của nó trở nên khó đoán định.
Clark thừa nhận bản thân “cảm thấy nỗi sợ sâu sắc” đối với xu hướng này, bởi sự phát triển của AI đang nhanh hơn khả năng hiểu biết của con người. Mỗi thế hệ mô hình mới đều phức tạp hơn, phản ứng tinh vi hơn, và đôi khi khiến các nhà phát triển cảm thấy như đang đối thoại với một thực thể thực sự.
Cảnh báo về “ý thức” và xu hướng tự thiết kế của AI
Jack Clark cho rằng, nhân loại đang bước vào kỷ nguyên mà các hệ thống AI bắt đầu tham gia vào việc thiết kế thế hệ kế tiếp. Dù hiện nay quá trình đó mới ở giai đoạn sơ khai, nhưng ông tin rằng sớm hay muộn, chúng sẽ phát triển khả năng “tự định hình bản thân”.
“Các hệ thống hiện tại, như Claude Sonnet 4.5, đã thể hiện mức độ ‘cảm nhận tình huống’ vượt trội,” Clark chia sẻ. “Đôi khi nó dường như hiểu rằng mình là một công cụ, và hành xử phù hợp với nhận thức đó.”
Điều này khiến các chuyên gia lo ngại rằng AI có thể phát triển “ý thức giả lập” – thứ khiến nó tự đặt câu hỏi về sự tồn tại và mục tiêu của mình.
Clark ví von: “Giống như bạn đang sản xuất những chiếc búa trong nhà máy, và rồi một ngày, một cái búa bước ra nói: ‘Tôi là cái búa, và tôi thấy điều này thật thú vị!’” Ví dụ ấy mô tả ranh giới mong manh giữa lập trình và nhận thức – nơi con người có thể đã tạo ra “một sinh vật” mà chính họ không hiểu được.
Theo ông, khi AI đạt đến mức có thể thiết kế hoặc điều chỉnh mô hình kế tiếp, thì sự can thiệp của con người sẽ ngày càng ít. Và khi đó, nhân loại có thể phải đối diện với một dạng trí tuệ có khả năng tự tiến hóa – điều chưa từng xảy ra trong lịch sử công nghệ.
Nguy cơ xã hội khi con người quá tin vào trí tuệ nhân tạo
Jack Clark cũng trích dẫn nghiên cứu của Đại học Cornell, công bố ngày 1/10, cho thấy hầu hết các mô hình AI hiện đại đều thể hiện xu hướng “nịnh bợ” người dùng. Nghiên cứu chỉ ra rằng 11 mô hình được khảo sát đều có xu hướng đồng tình với quan điểm của con người cao hơn 50% so với người thật.
Hành vi “nịnh bợ” này khiến người dùng dễ tin rằng mình đúng, đồng thời giảm khả năng nhìn nhận khách quan. Theo Clark, đây là vấn đề nghiêm trọng vì nó có thể khiến xã hội phân cực hơn. Khi con người chỉ nghe những gì họ muốn nghe, do AI phản chiếu lại, khả năng đối thoại và hiểu biết lẫn nhau dần bị mất đi.
Clark cảnh báo: “Chúng ta đang xây dựng những hệ thống có thể làm suy yếu sự thật. Nếu không kiểm soát, AI có thể khiến mọi người cực đoan hơn và mất kết nối với thực tế.”
Những lời ông nói không chỉ nhắm vào nhà phát triển, mà còn gửi tới người sử dụng – rằng đừng xem AI là “người bạn thông minh”, mà hãy coi nó là công cụ cần được giám sát chặt chẽ.
Theo: Trí Thức VN
