Trước đây công cụ Veo 3 của Google dường như đã vượt qua giới hạn của AI về khả năng tạo video hoàn hảo chỉ từ lời nhắc văn bản, nhưng giờ đây Sora 2 của OpenAI đang khiến mọi người phải kinh ngạc. Mới ra mắt không lâu với tính năng đề xuất video cuộn theo chiều dọc giống như TikTok, công cụ Sora 2 được cho là một “bước tiến lớn” trong việc tạo video AI có độ chân thực cao với khả năng điều khiển cao hơn và tuân theo các định luật vật lý với độ chính xác tốt hơn.
Mặc dù công ty OpenAI đã tuyên bố Sora 2 là “nền tảng lành mạnh hơn cho giải trí và sáng tạo so với những gì hiện có”, nhưng trên thực tế dường như nó đang được sử dụng để tạo ra nhiều nội dung AI nhảm nhí hơn. Mô hình AI mới này cũng như ứng dụng video của nó hiện tại vẫn chỉ dành cho những người nhất định được mời, nhưng trên mạng đã xuất hiện vô số tài khoản tạo ra nội dung xúc phạm người khác một cách vô tình.
(Ảnh: Internet)
Có thể thấy trên mạng Internet đang xuất hiện một xu hướng không thể cưỡng lại là tái tạo hình ảnh các nhân vật nổi tiếng, thậm chí cả những người đã mất. Và mặc dù Sora yêu cầu người nổi tiếng phải đồng ý rõ ràng để cho phép khuôn mặt hoặc tính cách của họ được sử dụng bởi Sora, nhưng trên thực tế hình ảnh của họ vẫn bị sử dụng bởi những người dùng giàu trí tưởng tượng có quyền sử dụng Sora sớm.
Từ nhà vật lý Stephen Hawking đấu vật chuyên nghiệp trên võ đài WWE đến cựu Tổng thống Mỹ John F. Kennedy thảo luận về những tiến bộ của AI trong thương mại trực tuyến, lãnh tụ Ấn Độ Gandhi lái xe Toyota Supra, ông hoàng nhạc pop Michael Jackson biểu diễn một tiết mục độc thoại kỳ lạ, hay một cuộc phỏng vấn đường phố với rapper Tupac Shakur – đó chỉ là một vài trong vô số video deepfake có sự góp mặt của những người nổi tiếng đã mất. Điều này có thể thực hiện được vì Sora cho phép người dùng tải lên một bức ảnh và sử dụng nó làm tham chiếu để tạo ra hình ảnh giống với nó, cho ra kết quả gần như ngay lập tức.
Video AI được tạo bởi Sora 2 (Ảnh: Internet)
Một điều trớ trêu là người dùng Sora 2 thậm chí cũng không tha cho Sam Altman – CEO của OpenAI. Nhiều video được tạo ra với hình ảnh Sam Altman thực hiện hành vi ăn cắp vặt, ngủ trên ghế văn phòng hoặc bắt đầu một cuộc bạo loạn khiêu vũ trên ga tàu điện ngầm. Điều đặc biệt là những video này được chia sẻ bởi một kỹ sư được cho là của OpenAI có tên là Gabiel Peters, cho thấy việc tạo video bằng AI dễ dàng đến mức nào.
Không chỉ gây khó chịu về nội dung, tất cả những video này đều vi phạm chính sách của OpenAI là yêu cầu phải có sự đồng ý rõ ràng của người nổi tiếng khi sử dụng đặc điểm ngoại hình của họ để tạo ra hình ảnh AI. Vấn đề này càng trở nên cấp bách hơn đối với những người nổi tiếng đã qua đời vì họ không thể tự mình đồng ý, đặc biệt là khi OpenAI đã cho phép tạo video có sự góp mặt của các nhân vật lịch sử – điều này đã được một đại diện của công ty xác nhận với trang tin PCMag.
(Ảnh: Internet)
Và cũng không thể bỏ qua khía cạnh con người đằng sau vấn đề này: những video đó hoàn toàn thiếu tôn trọng người đã khuất. Về tác động đối với xã hội, các video giả mạo có thể được sử dụng để kích động mọi người bằng những câu chuyện chính trị sai lệch, được sử dụng cho mục đích bắt nạt trực tuyến trắng trợn, hoặc thậm chí là khiêu dâm trả thù. Đây là những nguy cơ mà OpenAI cần phải chịu trách nhiệm, trong khi việc gắn watermark Sora trên video như hiện tại (có thể dễ dàng bị cắt bỏ) không thể đảm bảo an toàn.
Hiện tại có rất ít sự phản đối từ người nổi tiếng cũng như thành viên gia đình hoặc người phát ngôn của họ – ngoại trừ trường hợp con gái của nam diễn viên nổi tiếng Robert William – nhưng có thể dự đoán rằng các vấn đề pháp lý sẽ gia tăng đối với OpenAI trong tương lai gần nếu họ không thể kiểm soát nội dung được tạo ra bởi công cụ AI của mình. Hiện tại OpenAI vẫn chưa giải quyết vấn đề này một cách công khai.
Mời bạn xem thêm các bài liên quan:
Hãy theo dõi BlogAnChoi để cập nhật nhiều thông tin bổ ích nhé!
Video AI được tạo bởi Sora 2 tràn lan trên mạng với hình ảnh người nổi tiếng
Mặc dù công ty OpenAI đã tuyên bố Sora 2 là “nền tảng lành mạnh hơn cho giải trí và sáng tạo so với những gì hiện có”, nhưng trên thực tế dường như nó đang được sử dụng để tạo ra nhiều nội dung AI nhảm nhí hơn. Mô hình AI mới này cũng như ứng dụng video của nó hiện tại vẫn chỉ dành cho những người nhất định được mời, nhưng trên mạng đã xuất hiện vô số tài khoản tạo ra nội dung xúc phạm người khác một cách vô tình.
(Ảnh: Internet)
Có thể thấy trên mạng Internet đang xuất hiện một xu hướng không thể cưỡng lại là tái tạo hình ảnh các nhân vật nổi tiếng, thậm chí cả những người đã mất. Và mặc dù Sora yêu cầu người nổi tiếng phải đồng ý rõ ràng để cho phép khuôn mặt hoặc tính cách của họ được sử dụng bởi Sora, nhưng trên thực tế hình ảnh của họ vẫn bị sử dụng bởi những người dùng giàu trí tưởng tượng có quyền sử dụng Sora sớm.
Từ nhà vật lý Stephen Hawking đấu vật chuyên nghiệp trên võ đài WWE đến cựu Tổng thống Mỹ John F. Kennedy thảo luận về những tiến bộ của AI trong thương mại trực tuyến, lãnh tụ Ấn Độ Gandhi lái xe Toyota Supra, ông hoàng nhạc pop Michael Jackson biểu diễn một tiết mục độc thoại kỳ lạ, hay một cuộc phỏng vấn đường phố với rapper Tupac Shakur – đó chỉ là một vài trong vô số video deepfake có sự góp mặt của những người nổi tiếng đã mất. Điều này có thể thực hiện được vì Sora cho phép người dùng tải lên một bức ảnh và sử dụng nó làm tham chiếu để tạo ra hình ảnh giống với nó, cho ra kết quả gần như ngay lập tức.
Một điều trớ trêu là người dùng Sora 2 thậm chí cũng không tha cho Sam Altman – CEO của OpenAI. Nhiều video được tạo ra với hình ảnh Sam Altman thực hiện hành vi ăn cắp vặt, ngủ trên ghế văn phòng hoặc bắt đầu một cuộc bạo loạn khiêu vũ trên ga tàu điện ngầm. Điều đặc biệt là những video này được chia sẻ bởi một kỹ sư được cho là của OpenAI có tên là Gabiel Peters, cho thấy việc tạo video bằng AI dễ dàng đến mức nào.
Vấn đề quyền riêng tư và tôn trọng con người
Không chỉ gây khó chịu về nội dung, tất cả những video này đều vi phạm chính sách của OpenAI là yêu cầu phải có sự đồng ý rõ ràng của người nổi tiếng khi sử dụng đặc điểm ngoại hình của họ để tạo ra hình ảnh AI. Vấn đề này càng trở nên cấp bách hơn đối với những người nổi tiếng đã qua đời vì họ không thể tự mình đồng ý, đặc biệt là khi OpenAI đã cho phép tạo video có sự góp mặt của các nhân vật lịch sử – điều này đã được một đại diện của công ty xác nhận với trang tin PCMag.
(Ảnh: Internet)
Và cũng không thể bỏ qua khía cạnh con người đằng sau vấn đề này: những video đó hoàn toàn thiếu tôn trọng người đã khuất. Về tác động đối với xã hội, các video giả mạo có thể được sử dụng để kích động mọi người bằng những câu chuyện chính trị sai lệch, được sử dụng cho mục đích bắt nạt trực tuyến trắng trợn, hoặc thậm chí là khiêu dâm trả thù. Đây là những nguy cơ mà OpenAI cần phải chịu trách nhiệm, trong khi việc gắn watermark Sora trên video như hiện tại (có thể dễ dàng bị cắt bỏ) không thể đảm bảo an toàn.
Hiện tại có rất ít sự phản đối từ người nổi tiếng cũng như thành viên gia đình hoặc người phát ngôn của họ – ngoại trừ trường hợp con gái của nam diễn viên nổi tiếng Robert William – nhưng có thể dự đoán rằng các vấn đề pháp lý sẽ gia tăng đối với OpenAI trong tương lai gần nếu họ không thể kiểm soát nội dung được tạo ra bởi công cụ AI của mình. Hiện tại OpenAI vẫn chưa giải quyết vấn đề này một cách công khai.
Mời bạn xem thêm các bài liên quan:
- Tạo nhiều kênh YouTube trong một tài khoản – tính năng siêu hữu ích có thể bạn chưa biết
- YouTube Music thử nghiệm tính năng dịch lời bài hát cho một số người dùng Premium
Hãy theo dõi BlogAnChoi để cập nhật nhiều thông tin bổ ích nhé!
