DeepSeek è una nuova arma in mano ai cybercriminali: grazie all’IA cinese potranno generare in modo semplice codice malevolo.
L’avanzamento tecnologico ha sempre presentato una doppia faccia: da un lato, apre porte a sviluppo e innovazione; dall’altro, introduce nuove sfide e pericoli. Questo dualismo è particolarmente evidente nell’ambito dell’intelligenza artificiale (IA) generativa, che sta rivoluzionando sia il settore della creazione di contenuti che quello della sicurezza informatica. Con l’ascesa di strumenti come DeepSeek e Qwen, si assiste a una tendenza preoccupante: l’uso di queste tecnologie avanzate per scopi criminali.
Inizialmente, i cybercriminali si servivano di piattaforme come ChatGPT per creare codice malevolo. Tuttavia, l’emergere di nuovi strumenti, sviluppati in Cina come DeepSeek e Qwen, ha visto una crescente popolarità tra questi utenti malintenzionati. Queste piattaforme offrono metodi alternativi per aggirare le restrizioni imposte dai modelli più controllati, come quelli di OpenAI.
Uno degli aspetti più controversi è la politica sulla privacy di DeepSeek, che consente il trasferimento dei dati raccolti verso la Cina. Questa pratica solleva serie preoccupazioni sulla sicurezza dei dati degli utenti e potenziali violazioni della privacy su vasta scala.
La questione ha provocato reazioni anche al di fuori dell’Italia. In Spagna, entità come l’OCU e il partito Sumar hanno sollevato dubbi sui rischi per la sicurezza delle informazioni personali degli utenti su queste piattaforme, richiedendo maggiori controlli e regolamentazioni.
DeepSeek, il problema principale è il jailbreaking
Il principale problema, secondo gli esperti di cybersicurezza, è l’uso di tecniche di jailbreaking che permettono ai criminali informatici di modificare i modelli IA per farli agire senza restrizioni. Questo li autorizza a produrre contenuti dannosi senza filtri, inclusa la generazione di malware avanzato, truffe finanziarie, e attacchi di phishing e spam complessi.
Questo metodo sta diventando sempre più popolare tra i cybercriminali, poiché sfrutta le potenzialità dell’IA per scopi illeciti con relativa facilità. Le indagini hanno rivelato l’esistenza di forum online dove si scambiano istruzioni dettagliate su come eludere le difese di DeepSeek e Qwen. Le discussioni variano dalle tecniche specifiche per superare i sistemi antifrode a strategie più elaborate per lo sviluppo di malware.
Sono stati inoltre identificati numerosi scambi su come sfruttare queste piattaforme IA avanzate per bypassare le protezioni delle piattaforme bancarie online, suggerendo un potenziale aumento dei furti finanziari su larga scala.
Mentre ChatGPT ha implementato misure anti-abuso negli ultimi anni, rendendosi meno attraente per i malintenzionati, i modelli più recenti sembrano offrire minori barriere agli abusi, attirando così la cybercriminalità a vari livelli, soprattutto quelli meno esperti che si affidano a script già disponibili online.
Con l’aumento dei modelli IA meno restrittivi sul mercato, è probabile che si assista all’emergere di versioni non filtrate anche delle nuove piattaforme, incrementando i rischi per la sicurezza informatica globale.
