Yapay zeka kendi virüslerini üretebilir mi?

Biraz araştırmadan sonra bunun tabi ki olabileceği ve hatta ne kadar tehlikeli olabileceği ile ilgili sonuçlar önüme gelmeye başladı. Örneğin okuduğum bir makalede “kötü amaçlı JavaScript kodunun yeni varyantlarını büyük ölçekte ve tespitten daha iyi kaçınacak şekilde üretmek için büyük dil modelleri (LLM- Large Language Model) kullanmanın mümkün olduğu” yazıyordu.

Palo Alto Networks Unit 42 araştırmacıları yeni bir analizde, “LLM’ler sıfırdan kötü amaçlı yazılım oluşturmakta zorlansa da, suçlular bunları kolayca mevcut kötü amaçlı yazılımları yeniden yazmak veya gizlemek için kullanabilir ve bu da tespit edilmesini zorlaştırır,” diyordu. (Uzun ama güzel bir makale okumanızı tavsiye ederim)”. Böylece kötü niyetli arkadaşlar, LLM‘leri (Büyük Dil Modelleri) çok daha doğal görünen dönüşümler yapmaya yönlendirebilir ve bu da bu kötü amaçlı yazılımı tespit etmeyi daha zor hale getirir.

Zaman içinde yeterli dönüşümler gerçekleşirse, bu yaklaşım kötü amaçlı yazılım sınıflandırma sistemlerinin performansını düşürerek, kötü amaçlı bir kod parçasının aslında zararsız olduğuna inanmalarını sağlama avantajına sahip olabilir.

İlk etapta kötü kodları gizleyen yapay zeka daha sonra bu kodlardan neden daha zararlı ve kendi teknolojileri ile yeni kötü amaçlı yazılımlar üretmesin?

Şirket, “Son analizinde, orijinal betiğin davranışını koruyan, ancak neredeyse her zaman çok daha düşük bir kötü amaçlı puana sahip olan kötü amaçlı JavaScript’in yeni bir çeşididir” dedi ve açgözlü algoritmanın kendi kötü amaçlı yazılım sınıflandırma modelinin kararını %88 oranında kötü amaçlıdan iyi huyluya çevirdiğini ekledi.

Yapay zekanın yazdığı şiirleri okuyanlar eserlerin insan elinden çıkıp çıkmadığını ayırt edemiyor. Sanata kadar giren bu el kendi virüsünü de üretir gibi geliyor, ne dersiniz?