OpenAI đang sở hữu loại công nghệ AI đột phá có thể gây hại cho nhân loại

Theo thông tin mới đây, một số nhà nghiên cứu của OpenAI đã cảnh báo lên hội đồng quản trị về công nghệ AI được cho là tiên tiến và đột phá đến mức có thể gây hại cho nhân loại.

Theo báo cáo từ Reuters, trong khoảng thời gian CEO OpenAI Sam Altman bị sa thải, một số nhà nghiên cứu AI của OpenAI đã viết một lá thư gửi cho hội đồng quản trị cảnh báo về một số phát hiện liên quan đến loại công nghệ AI tiên tiến của OpenAI mà họ cho rằng có thể đe dọa loài người.

Trước khi CEO Altman bị sa thải, hoạt động phát triển các thuật toán AI được xem là ưu tiên hàng đầu của OpenAI.

Với tên gọi là Q* (đọc là Q Star), đây là dự án phát triển loại công nghệ AI được cho là tiên tiến và đột phá, thứ có thể đe doạ cả nhân loại.

Q Star được xem là một bước đột phá trong cuộc đua tìm kiếm sức mạnh AI của OpenAI. Theo nguồn tin, loại công nghệ này được gọi là trí tuệ nhân tạo tổng hợp (AGI), OpenAI định nghĩa AGI là các hệ thống tự trị có thể vượt qua cả con người trong hầu hết các nhiệm vụ có giá trị kinh tế.

Với nguồn tài nguyên máy tính khổng lồ, mô hình AI mới có thể giải quyết một số vấn đề toán học nhất định. Nguồn tin cho biết, mặc dù hiện nó chỉ có thể thực hiện các phép toán ở cấp độ học sinh tiểu học, nhưng việc đạt được những bài kiểm tra như vậy khiến các nhà nghiên cứu rất lạc quan về thành công trong tương lai của Q*.

Các nhà nghiên cứu cũng coi toán học là tiền đề của sự phát triển AI tổng quát. Hiện tại, Generative AI rất giỏi trong việc viết lách và dịch ngôn ngữ bằng cách dự đoán ký tự.

Tuy nhiên, với các công nghệ mới, AI sẽ có khả năng suy luận tốt hơn giống như trí thông minh của con người. Các nhà nghiên cứu AI tin rằng điều này có thể được áp dụng cho nghiên cứu khoa học mới.

Trong lá thư gửi hội đồng quản trị, các nhà nghiên cứu cũng đã đánh dấu sức mạnh và mối nguy hiểm tiềm tàng của AI.

CEO Sam Altman là người dẫn đầu các nỗ lực nhằm biến ChatGPT trở thành một trong những ứng dụng phần mềm phát triển nhanh nhất trong lịch sử và thu hút được nhiều nhà đầu tư lớn trong đó có gã khổng lồ Microsoft.

Tham gia Cộng đồng We’re Marketer của MarketingTrips (Trang tin trực tuyến về Marketing và Kinh doanh) để thảo luận các chủ đề về Marketing và Business tại: We’re Marketer