Thanh Thúy
Well-known member
Deep-Live-Cam, một phần mềm mới có khả năng tạo ra deepfake thời gian thực một cách dễ dàng, đang gây xôn xao trên mạng xã hội và dấy lên lo ngại về nguy cơ lừa đảo ngày càng gia tăng.
Phần mềm này chỉ cần một bức ảnh duy nhất của một người để áp dụng khuôn mặt của họ lên video webcam trực tiếp, theo dõi dáng người, ánh sáng và biểu cảm khuôn mặt một cách mượt mà. Mặc dù kết quả chưa hoàn hảo, nhưng tốc độ phát triển chóng mặt của công nghệ này cho thấy việc đánh lừa người khác bằng AI đang ngày càng dễ dàng hơn.
Dự án Deep-Live-Cam đã được phát triển từ cuối năm ngoái, nhưng chỉ mới đây mới thu hút sự chú ý rộng rãi sau khi các video demo được lan truyền trên mạng. Những video này cho thấy mọi người có thể giả mạo các nhân vật nổi tiếng như Elon Musk và George Clooney trong thời gian thực.
Sự phổ biến đột ngột đã đưa dự án mã nguồn mở này lên vị trí top trending trên GitHub. Phần mềm miễn phí và có sẵn trên GitHub, cho phép bất kỳ ai có kiến thức lập trình cơ bản đều có thể sử dụng. Tiềm năng lạm dụng của Deep-Live-Cam đã gây ra lo ngại trong giới chuyên gia công nghệ. Họa sĩ minh họa Corey Brickley nhận định rằng hầu hết các công nghệ đột phá gần đây đều có thể bị lợi dụng cho mục đích xấu.
Trên thực tế, công nghệ deepfake đã xuất hiện từ năm 2017. Tuy nhiên, những kỹ thuật ban đầu còn nhiều hạn chế và tốn kém. Giờ đây, các dự án như Deep-Live-Cam đã đơn giản hóa quy trình, cho phép bất kỳ ai sở hữu một chiếc PC thông thường cũng có thể tạo ra deepfake với phần mềm miễn phí.
Nguy cơ lạm dụng đã và đang hiện hữu. Vào tháng 2, một vụ lừa đảo ở Trung Quốc đã sử dụng deepfake để mạo danh giám đốc tài chính của một công ty qua cuộc gọi video, lừa một nhân viên chuyển khoản hơn 25 triệu USD. Gần đây, giọng nói của Tổng thống Mỹ Joe Biden cũng bị sao chép để gây ảnh hưởng đến cuộc bầu cử sơ bộ ở New Hampshire.
Với sự xuất hiện của phần mềm deepfake thời gian thực như Deep-Live-Cam, lừa đảo qua video có thể trở nên phổ biến hơn, ảnh hưởng không chỉ đến người nổi tiếng mà còn cả người bình thường.
Phần mềm này chỉ cần một bức ảnh duy nhất của một người để áp dụng khuôn mặt của họ lên video webcam trực tiếp, theo dõi dáng người, ánh sáng và biểu cảm khuôn mặt một cách mượt mà. Mặc dù kết quả chưa hoàn hảo, nhưng tốc độ phát triển chóng mặt của công nghệ này cho thấy việc đánh lừa người khác bằng AI đang ngày càng dễ dàng hơn.
Dự án Deep-Live-Cam đã được phát triển từ cuối năm ngoái, nhưng chỉ mới đây mới thu hút sự chú ý rộng rãi sau khi các video demo được lan truyền trên mạng. Những video này cho thấy mọi người có thể giả mạo các nhân vật nổi tiếng như Elon Musk và George Clooney trong thời gian thực.
Sự phổ biến đột ngột đã đưa dự án mã nguồn mở này lên vị trí top trending trên GitHub. Phần mềm miễn phí và có sẵn trên GitHub, cho phép bất kỳ ai có kiến thức lập trình cơ bản đều có thể sử dụng. Tiềm năng lạm dụng của Deep-Live-Cam đã gây ra lo ngại trong giới chuyên gia công nghệ. Họa sĩ minh họa Corey Brickley nhận định rằng hầu hết các công nghệ đột phá gần đây đều có thể bị lợi dụng cho mục đích xấu.
Trên thực tế, công nghệ deepfake đã xuất hiện từ năm 2017. Tuy nhiên, những kỹ thuật ban đầu còn nhiều hạn chế và tốn kém. Giờ đây, các dự án như Deep-Live-Cam đã đơn giản hóa quy trình, cho phép bất kỳ ai sở hữu một chiếc PC thông thường cũng có thể tạo ra deepfake với phần mềm miễn phí.
Nguy cơ lạm dụng đã và đang hiện hữu. Vào tháng 2, một vụ lừa đảo ở Trung Quốc đã sử dụng deepfake để mạo danh giám đốc tài chính của một công ty qua cuộc gọi video, lừa một nhân viên chuyển khoản hơn 25 triệu USD. Gần đây, giọng nói của Tổng thống Mỹ Joe Biden cũng bị sao chép để gây ảnh hưởng đến cuộc bầu cử sơ bộ ở New Hampshire.
Với sự xuất hiện của phần mềm deepfake thời gian thực như Deep-Live-Cam, lừa đảo qua video có thể trở nên phổ biến hơn, ảnh hưởng không chỉ đến người nổi tiếng mà còn cả người bình thường.