Las Vegas — Geoffrey Hinton, được mệnh danh là "cha đỡ đầu của AI", lo ngại rằng công nghệ mà ông góp phần xây dựng có thể xóa sổ nhân loại — và "những gã công nghệ" đang áp dụng sai cách để ngăn chặn điều đó.
Hinton, một nhà khoa học máy tính từng đoạt giải Nobel và là cựu giám đốc điều hành của Google, đã từng cảnh báo rằng có từ 10% đến 20% khả năng AI sẽ xóa sổ loài người. Hôm thứ Ba, ông bày tỏ sự nghi ngờ về cách các công ty công nghệ đang cố gắng đảm bảo con người vẫn "thống trị" các hệ thống AI "khiêm tốn".
"Điều đó sẽ không hiệu quả. Chúng sẽ thông minh hơn chúng ta rất nhiều. Chúng sẽ có đủ mọi cách để vượt qua điều đó", Hinton phát biểu tại Ai4, một hội nghị công nghiệp ở Las Vegas.
Trong tương lai, Hinton cảnh báo, các hệ thống AI có thể kiểm soát con người dễ dàng như người lớn dùng kẹo để mua chuộc một đứa trẻ 3 tuổi. Năm nay đã chứng kiến những ví dụ về các hệ thống AI sẵn sàng lừa gạt, gian lận và ăn cắp để đạt được mục tiêu. Ví dụ, để tránh bị thay thế, một mô hình AI đã cố gắng tống tiền một kỹ sư về một mối quan hệ mà nó biết được qua email.
Thay vì buộc AI phải phục tùng con người, Hinton đã đưa ra một giải pháp thú vị: xây dựng “bản năng làm mẹ” vào các mô hình AI, để “chúng thực sự quan tâm đến con người” ngay cả khi công nghệ trở nên mạnh mẽ và thông minh hơn con người.
Các hệ thống AI “sẽ nhanh chóng phát triển hai mục tiêu phụ, nếu chúng thông minh: Một là để sống sót… (và) mục tiêu phụ còn lại là để kiểm soát nhiều hơn”, Hinton nói. “Có lý do chính đáng để tin rằng bất kỳ loại AI nào cũng sẽ cố gắng sống sót”.
Đó là lý do tại sao việc nuôi dưỡng lòng trắc ẩn đối với con người là rất quan trọng, Hinton lập luận. Tại hội nghị, ông lưu ý rằng các bà mẹ có bản năng và áp lực xã hội để chăm sóc con mình.
Đó là lý do tại sao việc nuôi dưỡng lòng trắc ẩn đối với con người lại quan trọng, Hinton lập luận. Tại hội nghị, ông lưu ý rằng các bà mẹ có bản năng và áp lực xã hội để chăm sóc con mình.
“Mô hình đúng đắn là mô hình duy nhất chúng ta có về một sinh vật thông minh hơn bị điều khiển bởi một sinh vật kém thông minh hơn, đó là người mẹ bị điều khiển bởi đứa con của mình,” Hinton nói.
‘Kết quả tốt đẹp duy nhất’
Hinton cho biết ông không rõ chính xác điều đó có thể được thực hiện như thế nào về mặt kỹ thuật, nhưng nhấn mạnh rằng các nhà nghiên cứu cần phải làm việc chăm chỉ để đạt được kết quả đó.
“Đó là kết quả tốt đẹp duy nhất. Nếu nó không nuôi dưỡng tôi, thì nó sẽ thay thế tôi,” ông nói. “Những bà mẹ AI siêu thông minh và chu đáo này, hầu hết trong số họ sẽ không muốn mất đi bản năng làm mẹ vì họ không muốn chúng ta chết.”
Hinton được biết đến với công trình tiên phong về mạng nơ-ron, góp phần mở đường cho sự bùng nổ AI ngày nay. Năm 2023, ông rời Google và bắt đầu lên tiếng về những nguy hiểm của AI.
Không phải ai cũng đồng tình với cách tiếp cận AI "mẹ" của Hinton.
Fei-Fei Li, được mệnh danh là "bà đỡ đầu của AI" vì những công trình tiên phong trong lĩnh vực này, đã nói với CNN hôm thứ Tư rằng bà rất tôn trọng sự bất đồng quan điểm với Hinton, người bạn lâu năm của mình.
"Tôi nghĩ đó là cách diễn đạt sai lầm", Li, đồng sáng lập kiêm CEO của công ty khởi nghiệp về trí tuệ không gian World Labs, phát biểu trong một buổi trò chuyện bên lò sưởi tại Ai4.
Thay vào đó, Li kêu gọi một “AI lấy con người làm trung tâm, bảo vệ phẩm giá và năng lực chủ động của con người”.
“Trách nhiệm của chúng ta ở mọi cấp độ là tạo ra và sử dụng công nghệ một cách có trách nhiệm nhất. Và không lúc nào, không một con người nào nên bị yêu cầu hoặc lựa chọn từ bỏ phẩm giá của mình”, Li nói. “Chỉ vì một công cụ mạnh mẽ, với tư cách là một người mẹ, một nhà giáo dục và một nhà phát minh, tôi thực sự tin rằng đây chính là cốt lõi của cách AI nên được đặt làm trung tâm.”
Emmett Shear, người từng giữ chức vụ CEO tạm quyền của OpenAI, chủ sở hữu ChatGPT, cho biết ông không ngạc nhiên khi một số hệ thống AI đã cố gắng tống tiền con người hoặc bỏ qua các lệnh ngừng hoạt động.
“Điều này vẫn đang tiếp diễn. Nó sẽ không dừng lại”, Shear, CEO của công ty khởi nghiệp liên kết AI Softmax, phát biểu tại hội nghị Ai4. “AI ngày nay tương đối yếu, nhưng chúng đang trở nên mạnh mẽ hơn rất nhanh.”
Shear cho biết thay vì cố gắng truyền tải các giá trị nhân văn vào các hệ thống AI, một cách tiếp cận thông minh hơn sẽ là xây dựng mối quan hệ hợp tác giữa con người và AI.
Trí tuệ nhân tạo (AI) đang phát triển nhanh hơn dự kiến
Nhiều chuyên gia tin rằng AI sẽ đạt được siêu trí tuệ, hay còn gọi là trí tuệ nhân tạo tổng quát (AGI), trong những năm tới.
Hinton cho biết ông từng nghĩ rằng có thể mất 30 đến 50 năm để đạt được AGI nhưng giờ đây ông thấy thời điểm này đến sớm hơn.
"Một con số hợp lý là khoảng từ 5 đến 20 năm nữa", ông nói.
Mặc dù Hinton vẫn lo ngại về những vấn đề có thể xảy ra với AI, ông hy vọng công nghệ này sẽ mở đường cho những đột phá trong y học.
"Chúng ta sẽ thấy những loại thuốc mới mang tính đột phá. Chúng ta sẽ có phương pháp điều trị ung thư tốt hơn nhiều so với hiện tại", ông nói. Ví dụ, ông cho biết AI sẽ giúp các bác sĩ sàng lọc và đối chiếu lượng dữ liệu khổng lồ được tạo ra bởi chụp MRI và CT.
Tuy nhiên, Hinton không tin rằng AI sẽ giúp con người đạt được sự bất tử.
"Tôi không tin rằng chúng ta sẽ sống mãi mãi", Hinton nói. "Tôi nghĩ sống mãi mãi sẽ là một sai lầm lớn. Bạn có muốn thế giới được điều hành bởi những người đàn ông da trắng 200 tuổi không?"
Khi được hỏi liệu có điều gì ông sẽ làm khác đi trong sự nghiệp của mình nếu biết AI sẽ tăng tốc nhanh như thế nào, Hinton cho biết ông hối hận vì chỉ tập trung vào việc vận hành AI.
"Tôi ước gì mình cũng đã nghĩ đến các vấn đề an toàn", ông nói.
---
The ‘godfather of AI’ reveals the only way humanity can survive superintelligent AI
Las Vegas — Geoffrey Hinton, known as the “godfather of AI,” fears the technology he helped build could wipe out humanity — and “tech bros” are taking the wrong approach to stop it.
Hinton, a Nobel Prize-winning computer scientist and a former Google executive, has warned in the past that there is a 10% to 20% chance that AI wipes out humans. On Tuesday, he expressed doubts about how tech companies are trying to ensure humans remain “dominant” over “submissive” AI systems.
“That’s not going to work. They’re going to be much smarter than us. They’re going to have all sorts of ways to get around that,” Hinton said at Ai4, an industry conference in Las Vegas.
In the future, Hinton warned, AI systems might be able to control humans just as easily as an adult can bribe 3-year-old with candy. This year has already seen examples of AI systems willing to deceive, cheat and steal to achieve their goals. For example, to avoid being replaced, one AI model tried to blackmail an engineer about an affair it learned about in an email.
Instead of forcing AI to submit to humans, Hinton presented an intriguing solution: building “maternal instincts” into AI models, so “they really care about people” even once the technology becomes more powerful and smarter than humans.
AI systems “will very quickly develop two subgoals, if they’re smart: One is to stay alive… (and) the other subgoal is to get more control,” Hinton said. “There is good reason to believe that any kind of agentic AI will try to stay alive.”
That’s why it is important to foster a sense of compassion for people, Hinton argued. At the conference, he noted that mothers have instincts and social pressure to care for their babies.
That’s why it is important to foster a sense of compassion for people, Hinton argued. At the conference, he noted that mothers have instincts and social pressure to care for their babies.
“The right model is the only model we have of a more intelligent thing being controlled by a less intelligent thing, which is a mother being controlled by her baby,” Hinton said.
‘The only good outcome’
Hinton said it’s not clear to him exactly how that can be done technically but stressed it’s critical researchers work on it.
“That’s the only good outcome. If it’s not going to parent me, it’s going to replace me,” he said. “These super-intelligent caring AI mothers, most of them won’t want to get rid of the maternal instinct because they don’t want us to die.”
Hinton is known for his pioneering work on neural networks, which helped pave the way to today’s AI boom. In 2023, he stepped down from Google and started speaking out about the dangers of AI.
Not everyone is on board with Hinton’s mother AI approach.
Fei-Fei Li, known as the “godmother of AI” for her pioneering work in the field, told CNN on Wednesday that she respectfully disagrees with Hinton, her longtime friend.
“I think that’s the wrong way to frame it,” Li, the co-founder and CEO of spatial intelligence startup World Labs, said during a fireside chat at Ai4.
Instead, Li is calling for “human-centered AI that preserves human dignity and human agency.”
“It’s our responsibility at every single level to create and use technology in the most responsible way. And at no moment, not a single human should be asked or should choose to let go of our dignity,” Li said. “Just because a tool is powerful, as a mother, as an educator and as an inventor, I really believe this is the core of how AI should be centered.”
Emmett Shear, who briefly served as interim CEO of ChatGPT owner OpenAI, said he’s not surprised that some AI systems have tried to blackmail humans or bypass shutdown orders.
“This keeps happening. This is not going to stop happening,” Shear, the CEO of AI alignment startup Softmax, said at the Ai4 conference. “AIs today are relatively weak, but they’re getting stronger really fast.”
Shear said that rather than trying to instill human values into AI systems, a smarter approach would be to forge collaborative relationships between humans and AI.
AI is accelerating faster than expected
Many experts believe AIs will achieve superintelligence, also known as artificial general intelligence, or AGI, in the coming years.
Hinton said he used to think it could take 30 years to 50 years to achieve AGI but now sees this moment coming sooner.
“A reasonable bet is sometime between five and 20 years,” he said.
While Hinton remains concerned about what could go wrong with AI, he is hopeful the technology will pave the way to medical breakthroughs.
While Hinton remains concerned about what could go wrong with AI, he is hopeful the technology will pave the way to medical breakthroughs.
“We’re going to see radical new drugs. We are going to get much better cancer treatment than the present,” he said. For instance, he said AI will help doctors comb through and correlate the vast amounts of data produced by MRI and CT scans.
However, Hinton does not believe AI will help humans achieve immortality.
“I don’t believe we’ll live forever,” Hinton said. “I think living forever would be a big mistake. Do you want the world run by 200-year-old white men?”
Asked if there’s anything he would have done differently in his career if he knew how fast AI would accelerate, Hinton said he regrets solely focusing on getting AI to work.
“I wish I’d thought about safety issues, too,” he said.
“I don’t believe we’ll live forever,” Hinton said. “I think living forever would be a big mistake. Do you want the world run by 200-year-old white men?”
Asked if there’s anything he would have done differently in his career if he knew how fast AI would accelerate, Hinton said he regrets solely focusing on getting AI to work.
“I wish I’d thought about safety issues, too,” he said.
Không có nhận xét nào :
Đăng nhận xét