Mọi chuyện xảy ra khi cha mẹ của Benjamin Perkin, sống tại Canada, nhận được một cuộc gọi từ người tự xưng là luật sư của Benjamin, cho biết anh này vừa gây ra một vụ tai nạn chết người và yêu cầu cha mẹ của Benjamin phải chuyển tiền để trang trải các chi phí về pháp lý.
Để tăng tính tin cậy, kẻ lừa đảo đã sử dụng phần mềm trí tuệ nhân tạo giả giọng nói của Benjamin để nói chuyện với ba mẹ của anh qua điện thoại. Khi nghe giọng nói của con mình, mà thực chất do trí tuệ nhân tạo nhái theo, cha mẹ của Benjamin đã không còn nghi ngờ gì và lập tức gửi số tiền 21.000 đô la Canada (tương đương 15.400 USD) theo yêu cầu của kẻ lừa đảo.
"Giọng nói do phần mềm trí tuệ nhân tạo tạo ra giống đến mức cha mẹ tưởng rằng họ đang nói chuyện trực tiếp với tôi", Benjamin Perkin chia sẻ.
Cụ bà Ruth Card suýt chút nữa trở thành nạn nhân của cuộc gọi lừa đảo (Ảnh: Postmedia).
Cặp đôi này vội vã đến một chi nhánh khác để rút thêm tiền. Tuy nhiên, giám đốc của chi nhánh này khi nghe câu chuyện do bà Ruth kể lại đã kéo họ vào văn phòng để nói chuyện. Người này cho biết một khách hàng quen của ngân hàng cũng vừa đến để rút tiền sau khi nhận được một cuộc gọi từ người thân với lý do tương tự. Điều này khiến bà Ruth hoài nghi về danh tính thực sự của người đã gọi điện cho mình.
"Chúng tôi đã bị hút vào trò lừa đảo đó. Chúng tôi cứ nghĩ chắc rằng chính Brandon đã gọi điện cho mình", bà Ruth Card chia sẻ.
May mắn hơn gia đình Perkin, vợ chồng bà Ruth Card đã được cảnh báo kịp thời để tránh trở thành nạn nhân của những kẻ lừa đảo.
Sự gia tăng của những phần mềm trí tuệ nhân tạo mạnh mẽ đang dẫn đến sự gia tăng của các vụ lừa đảo liên quan đến mạo danh người khác. Theo Ủy ban Thương mại Liên bang (FTC), số vụ lừa đảo được báo cáo phổ biến nhất tại Mỹ trong năm 2022 là những vụ lừa đảo mạo danh. FTC cho biết đã nhận được báo cáo từ 2,4 triệu người về các vụ lừa đảo mạo danh, với số tiền bị mất lên đến 8,8 tỷ USD.
Không chỉ sử dụng cho mục đích lừa đảo, trí tuệ nhân tạo còn có thể bị kẻ xấu lợi dụng để giả giọng nói của những người nổi tiếng nhằm đưa ra những phát biểu sai trái, kích động và mang tính phân biệt chủng tộc, điều này có thể dẫn đến những hậu quả nghiêm trọng.
Hiện FTC đã thành lập Văn phòng Công nghệ mới để điều tra tiềm năng sử dụng A.I và giảm thiểu những rủi ro do A.I mang lại.
"Chúng tôi đang lo ngại về công nghệ trí tuệ nhân tạo, những thứ trở nên phổ biến và dễ tiếp cận hơn", phát ngôn viên của FTC Juliana Gruenwald, chia sẻ. "Các công cụ trí tuệ nhân tạo giúp tạo ra video, hình ảnh và âm thanh giống như thật đang làm gia tăng đáng kinh ngạc các vụ lừa đảo trên mạng xã hội".
2 trường hợp kể trên được xem là những minh chứng rõ nét cảnh báo người dùng mạng xã hội, đừng vội vàng tin vào những hình ảnh hay video được chia sẻ lên mạng xã hội, bởi lẽ rất có thể đó chỉ là những sản phẩm của A.I được tạo ra nhằm mục đích đánh lừa người khác hoặc để lan truyền các thông tin giả mạo.
Theo WP/Insider
