Skip to main content

Thẻ: deepfake

Chủ tịch Microsoft: Deepfake là mối nguy lớn nhất trong kỷ nguyên AI Chủ tịch Microsoft: Deepfake là mối nguy lớn nhất trong kỷ nguyên AI Chủ tịch Microsoft: Deepfake là mối nguy lớn nhất trong kỷ nguyên AI Chủ tịch Microsoft: Deepfake là mối nguy lớn nhất trong kỷ nguyên AI

Chủ tịch Microsoft: Deepfake là mối nguy lớn nhất trong kỷ nguyên AI

Written by testmtrips on . Posted in Digital.

Chủ tịch của gã khổng lồ công nghệ Microsoft, Brad Smith cho biết lo ngại lớn nhất của ông trong kỷ nguyên AI (trí tuệ nhân tạo) là công nghệ Deepfake khi AI ngày càng trở nên phổ biến và mạnh hơn.

Chủ tịch Microsoft: Deepfake là mối nguy lớn nhất trong kỷ nguyên AI
Chủ tịch Microsoft: Deepfake là mối nguy lớn nhất trong kỷ nguyên AI

Ông cũng khẳng định cần phải có ai đó chịu trách nhiệm cho các nội dung do AI tạo ra để bảo vệ con người trước những nguồn thông tin giả mạo, tránh bị lừa đảo bởi công nghệ cao.

Câu chuyện được ông Smith nhắc tới trong buổi tọa đàm tại Bảo tàng Planet World, ở Washington hôm 25/5 về chủ đề làm thế nào để siết luật AI giữa bối cảnh công nghệ này đang ngày càng lan rộng sau cơn sốt ChatGPT.

Tại sự kiện, Chủ tịch Microsoft kêu gọi giải pháp để người dùng nhận biết một hình ảnh hay đoạn video bất kỳ là thật hay do AI tạo dựng cho những mục đích bất chính.

Siết các điều luật liên quan đến AI.

“Chúng ta cần phải giải quyết những vấn đề liên quan đến deepfake, đặc biệt là đối với các tổ chức không gian mạng bên ngoài lãnh thổ”, ông nói. Brad Smith cho rằng cần có những hành động cụ thể để bảo vệ mọi người trước những nguồn thông tin giả mạo, tránh bị lừa đảo bởi những công cụ AI.

Theo ông, các cơ quan chức năng cần ra mắt những bộ luật cho AI để phòng ngừa mọi nguy cơ về an ninh quốc gia và an ninh mạng.

“Chúng ta cần có những quy định quản lý xuất khẩu mới, ít nhất là phải cải tiến so với bộ quy tắc hiện tại. Điều này nhằm đảm bảo rằng những sản phẩm công nghệ mới không bị đánh cắp hoặc bị lợi dụng để vi phạm điều luật quốc gia”, Chủ tịch Microsoft nói.

Chia sẻ của Brad Smith được đưa ra ngay sau khi Sam Altman, CEO của công ty OpenAI, bày tỏ ủng hộ việc lập khung pháp lý để kiểm soát trí tuệ nhân tạo (AI) và giảm thiểu nguy cơ AI can thiệp vào các kỳ bầu cử tại buổi điều trần trước Ủy ban Tư pháp Thượng viện Mỹ ngày 16/5.

Ông Altman cho rằng sự phát triển của AI hiện nay có thể tạo ra những thông tin sai lệch, chưa được kiểm chứng tại các kỳ bầu cử. “Trí tuệ nhân tạo có khả năng cải thiện mọi lĩnh vực trong đời sống chúng ta, nhưng nó cũng tạo ra những mối lo nghiêm trọng mà chúng ta phải cùng nhau giải quyết”, ông nói.

Gần đây, phát biểu tại hội nghị CEO Council Summit do WSJ tổ chức ở London (Anh), Eric Schmidt, cựu CEO Google, lo ngại khả năng trí tuệ nhân tạo (AI) gây rủi ro cho nhân loại.

“Rủi ro này định nghĩa rằng rất, rất, rất, rất nhiều người bị làm hại hoặc bị giết”, Schmidt cho biết. Ông nhận định chính phủ các nước cần đảm bảo công nghệ này không bị kẻ xấu lợi dụng.

Dán nhãn, nâng cao an ninh đối với nội dung AI.

Do đó, trong buổi tọa đàm tại Washington, Chủ tịch Microsoft Brad Smith tiếp tục bày tỏ những lo ngại về AI và khẳng định cần phải có ai đó chịu trách nhiệm cho những vấn đề của công nghệ này.

Ông kêu gọi phải thực thi các biện pháp an ninh đối với các hệ thống AI liên quan đến những cơ sở hạ tầng quan trọng như lưới điện, cấp nước để chắc chắn rằng có sự giám sát của con người.

Để giữ tính minh bạch của các công nghệ AI, Smith đề xuất các nhà phát triển nên tạo ra một hệ thống có tên “Know Your Customer” để kiểm soát cách những công nghệ này được sử dụng và truyền đạt thông tin với công chúng như thế nào.

Cách làm này sẽ giúp quy trình nhận dạng các nội dung sai sự thật trở nên dễ dàng hơn.

Các công ty công nghệ như Adobe, Google, Microsoft cũng đang dần nghiên cứu để dán nhãn nội dung (Content Labeling) nhằm phân biệt nội dung AI.

Theo Ars Technica, deepfake là một chủ đề được Microsoft nghiên cứu trong suốt nhiều năm qua. Hồi tháng 9/2022, Giám đốc phòng khoa học Eric Horvitz đã đệ trình một bài báo nghiên cứu về nguy cơ của deepfake tương tác và sự xuất hiện của các cứ liệu lịch sử máy tạo. Đây là bằng chứng cho sự nỗ lực phát hiện và ngăn chặn deepfake dùng sai cách của Microsoft.

Cùng lúc đó, hãng công nghệ cũng đang liên tục đẩy mạnh tích hợp công nghệ AI tạo sinh dựa trên văn bản và hình ảnh vào các sản phẩm của mình như Office và Windows.

Sự ra mắt vội vã đối với chatbot Bing hồi tháng 2 đã nhận về nhiều phản ứng cả tích cực lẫn tiêu cực từ người dùng. Sự xuất hiện ngày một nhiều của các chatbot AI đã làm dấy lên lo ngại rằng tương lai trí tuệ nhân tạo xâm chiếm xã hội loài người không còn xa.

Tham gia Cộng đồng We’re Marketer của MarketingTrips để thảo luận các chủ đề về Marketing và Business tại: We’re Marketer

Hà Anh  | MarketingTrips

Deepfake lan tràn trên TikTok

Written by testmtrips on . Posted in Social.

Nền tảng video ngắn TikTok xuất hiện ngày càng nhiều video giả mạo người nổi tiếng hoặc nhân vật của công chúng và thu hút lượng theo dõi lớn.

Theo The Next Web, TikTok hiện chứa một lượng nội dung deepfake nhiều hơn so với bất kỳ nền tảng nào khác.

Đáng chú ý nhất là @deeptomcruise với hàng chục video deepfake giả khuôn mặt Tom Cruise và có hơn 3,6 triệu người theo dõi cùng gần 14 triệu lượt thích. Trong đó, video thu hút nhất đạt hơn 43 triệu lượt xem.

Bên cạnh đó, những tài khoản giả mạo diễn viên nổi tiếng như Robert Pattinson, Keanu Reeves, nhân vật công chúng như Mark Zuckerberg, Elon Musk, thậm chí là các chính trị gia như Barack Obama, Donald Trump cũng cũng nhận hàng trăm nghìn lượt theo dõi. Nhiều người chia sẻ ở phần bình luận rằng họ không thể phân biệt thật giả.

Deepfake là sự kết hợp giữa deep learning (học sâu) và fake (giả). Công nghệ này sử dụng AI để phân tích cử chỉ, nét mặt và giọng nói của một người, từ đó tái tạo và chỉnh sửa để cho ra đời hình ảnh hoặc video như thật.

Không chỉ TikTok, video deepfake từng được phát tán nhiều trên các nền tảng khác. Năm 2019, Facebook bị chỉ trích vì cho phép video giả chính trị gia người Mỹ Nancy Pelosi xuất hiện.

Năm 2020, Twitter cấm video mang tính lừa dối, gây nhầm lẫn hoặc gây hại cho mọi người, sau đó TikTok cũng thực hiện điều tương tự. Cùng năm, YouTube chặn video deepfake liên quan đến cuộc bầu cử Tổng thống Mỹ.

Deepfake thường được tạo ra để thể hiện sự sáng tạo, để mua vui, “hồi sinh” các diễn viên đã qua đời, hoặc phổ biến nhất là ghép mặt ai đó vào phim khiêu dâm.

Theo số liệu của công ty phần mềm chuyên phát hiện deepfake Deeptrace, hơn 90% deepfake được quét liên quan tới nội dung khiêu dâm.

Các ứng dụng miễn phí như DeepNude 2.0 (hiện không còn tồn tại) từng bị lạm dụng để tạo video khỏa thân về một người bất kỳ với mục đích tống tiền.

Tuy nhiên, giới chuyên gia tỏ ra lo ngại khi deepfake lan tràn trên TikTok do người dùng trẻ chiếm một lượng lớn trên nền tảng này.

Trong khi đó, deepfake ngày càng được triển khai nhiều trong các chiến dịch gây sai lệch thông tin, gian lận danh tính, gây mất uy tín…

Với công nghệ trở nên hoàn thiện hơn, không phải người nào, nhất là trẻ nhỏ, cũng có thể phân biệt được hình ảnh thật giả trên mạng xã hội.

Ngoài ra, deepfake cũng được sử dụng để lừa đảo và gian lận danh tính. Kẻ gian có thể gửi tin nhắn dạng video giả danh đồng nghiệp hoặc người thân để nhờ chuyển tiền hoặc giao dịch ngân hàng.

Theo công ty nghiên cứu và phân tích dữ liệu PYMNTS, lừa đảo gian lận danh tính gây thiệt hại hơn 20 tỷ USD tại Mỹ trong năm 2020.

Làm thế nào để phát hiện deepfake?

Theo các chuyên gia, dù ngày càng tinh vi, deepfake hiện vẫn có thể được phát hiện bằng mắt thường nếu để ý kỹ các chi tiết.

Chẳng hạn, video giả sẽ có khuôn mặt quá mịn, bóng xương gò má bất thường, chuyển động của mí mắt và miệng có vẻ gượng gạo, không tự nhiên.

Chi tiết về tóc dễ phát hiện nhất, bởi các công nghệ deepfake hiện nay đang gặp khó trong việc tạo khuôn mặt kết hợp với tóc để trông giống như thật.

Bên cạnh đó, bối cảnh cũng rất quan trọng. Người xem có thể đặt câu hỏi rằng nhân vật thật có thói quen thực hiện các hành động như trong video hay không. Nếu không, khả năng cao đó là deepfake.

Với người nổi tiếng, người dùng có thể tìm kiếm về nhân vật trong video trên Google để kiểm chứng các thông tin mới nhất. Ngoài ra, có thể đánh giá độ tin cậy của nguồn đăng video trước khi kết luận độ chính xác của nó.

Tham gia Cộng đồng We’re Marketer để thảo luận các chủ đề về Marketing và Business tại: Link

Giang Nguyễn | MarketingTrips

(Theo The Next Web – VnExpress)