Các video được tạo ra bằng AI ngày càng chân thực là một yếu tố chính dẫn đến sự gia tăng nội dung giả mạo lan truyền trong các thảm họa lũ lụt, gây hoang mang cho công chúng và có nguy cơ gây ra hoảng loạn trên diện rộng, đe dọa an ninh thông tin quốc gia.
Đây là cảnh báo của chuyên gia an ninh Malaysia trong bối cảnh ngày càng có nhiều đợt diễn ra do ảnh hưởng của biến đổi khí hậu.
Tiến sĩ Noor Nirwandy Mat Noordin - một nhà phân tích chiến tranh, an ninh và chính trị thuộc Đại học Công nghệ MARA (UiTM), cho rằng công chúng rất dễ bị ảnh hưởng bởi các video và hình ảnh lừa đảo do AI tạo ra. Người dân giờ đây đang đối mặt với một kỷ nguyên mới, nơi bất kỳ ai cũng có thể tạo ra các video hoặc hình ảnh có sức thuyết phục cao liên quan đến lũ lụt, bão lốc hoặc bất kỳ thảm họa nào.
Nếu không được kiểm soát, điều này có thể dẫn đến sự hỗn loạn thông tin khi nhiều người vô tình tin vào các nội dung giả mạo lan truyền trên các nền tảng mạng xã hội và góp phần tạo ra những câu chuyện hay nhận thức sai lệch, đặc biệt là trong thời kỳ khủng hoảng. Vì thế, theo Tiến sĩ Noor, việc xác minh thông tin phải trở thành một chuẩn mực văn hóa và công chúng nên sử dụng các nền tảng kiểm tra thông tin để đảm bảo thông tin họ nhận được là chính xác.
Ông cũng cảnh báo rằng, mối đe dọa từ việc thao túng thông tin dựa trên AI có thể ảnh hưởng đến tâm lý công chúng, tác động đến phản ứng của họ và làm suy yếu trật tự công cộng cũng như an ninh quốc gia.
Tiến sĩ Noor đề xuất Malaysia cần thành lập một trung tâm thông tin thảm họa quốc gia và bộ phận chuyên trách kiểm tra thông tin về thảm họa để bảo đảm luồng thông tin được tổ chức nhanh chóng và chính xác hơn. Bên cạnh đó cũng cần xây dựng lịch thảm họa quốc gia như một tài liệu tham khảo định kỳ để giúp công chúng chuẩn bị, trong khi các cơ quan an ninh tập trung vào việc tăng cường phối hợp cứu hộ.
Đồng tình với quan điểm này, chuyên gia phân tích tội phạm Shahul Hamid nhấn mạnh hành vi làm và phát tán các thông tin giả mạo về thiên tai hiện đã được xác định là mối đe dọa mới đối với công tác quản lý khẩn cấp, vì công nghệ tạo hình ảnh hiện nay có thể tạo ra những thước phim lũ lụt chân thực đến khó ngờ chỉ trong vài phút.
Ông cho rằng, hiện tượng này đang dẫn đến "thảm họa thông tin" và gây ra những tác động không chỉ giới hạn ở thiệt hại vật chất mà còn còn làm gián đoạn thông tin thật và gây ra hoảng loạn, nhầm lẫn, cản trở giao tiếp thực sự.
Ông Shahul Hamid cảnh báo vấn đề này có thể trở nên tồi tệ hơn nếu trình độ hiểu biết về truyền thông kỹ thuật số của công chúng vẫn còn thấp. Việc phát tán hình ảnh giả mạo cũng có thể làm gián đoạn các hoạt động cứu hộ của sở cứu hỏa và cảnh sát, khi nguồn lực có thể bị chuyển hướng đến các địa điểm sai lệch, trong khi các khu vực bị ảnh hưởng thực sự lại bị bỏ qua. Điều này sẽ làm tăng nguy cơ lãng phí nguồn lực, gây phản ứng chậm trễ và sai sót trong công tác phối hợp.
Cũng theo chuyên gia Shahul Hamid, các đường dây nóng khẩn cấp cũng có nguy cơ bị quá tải khi công chúng liên tục gọi điện để xác minh tính xác thực của video, đồng nghĩa với việc các cuộc gọi quan trọng có thể không được trả lời. Chưa kể, việc lan truyền thông tin trái ngược với các tuyên bố chính thức cũng làm suy yếu niềm tin của công chúng vào các cơ quan và đội ngũ tình nguyện viên.
Ngoài ra, hình ảnh AI giả mạo cũng có thể bị lợi dụng để lừa đảo, bao gồm việc kêu gọi quyên góp giả mạo, lợi dụng sự đồng cảm của công chúng và thao túng cảm xúc, tạo thêm chiều hướng mới cho các mối đe dọa an ninh số.
Trong bối cảnh công chúng ngày càng khó phân biệt nội dung thật với video do AI tạo ra, việc thiếu đào tạo về kỹ năng số và củng cố tâm lý của công chúng trong thảm họa sẽ khiến nhiều người có xu hướng tin vào những nội dung kịch tính, nhất là khi các thuật toán mạng xã hội thường ưu tiên những nội dung giật gân, khiến video giả lan truyền nhanh hơn thông tin chính thức.
Ông Shahul Hamid nhấn mạnh việc thiếu trung tâm tham chiếu nhanh để xác minh nội dung liên quan đến thảm họa sẽ khiến công chúng dễ bị lừa đảo.
Một cuộc khảo sát của Bernama trên TikTok và Instagram cho thấy ngày càng có nhiều video sử dụng AI xuất hiện sau mùa mưa gió, ảnh hưởng đến một số tiểu bang. Những nội dung giả mạo được phát hiện bao gồm hình ảnh cá sấu nổi lên, hổ mò vào làng, động vật có nọc độc và những tình huống bất thường được mô tả là đang xảy ra trong lũ lụt.
Nhiều video giả mạo về lũ lụt nghiêm trọng trông rất chân thực và được lan truyền rất nhanh, khiến không ít người dùng tin rằng đây là những thước phim được quay từ hình ảnh thực tế trong khi đây hoàn toàn là những video do AI tạo ra.
