30 Mei 2024

ChatGPT berfokus pada etika dan kebaikan. Seseorang telah membuat WormGPT untuk melakukan kejahatan (jika Anda mau)

3 min read

ChatGPT, antara lain, benar dan formal. Chatbot yang dikembangkan oleh OpenAI, juga di Bing Chat, sangat berhati-hati dengan nada dan batasannya sendiri, dan sulit untuk menjawab pertanyaan beracun atau menulis sesuatu yang tidak pantas. Namun, sekarang ada versi ChatGPT yang dirancang khusus untuk mengatasi semua hambatan etika yang dimiliki chatbot. Namanya WormGPT.

Dans le meme genre : Mengapa saya terus menerima panggilan komersial padahal undang-undang yang melarang spam telepon sudah berlaku?

Latar belakang. Di masa lalu kita telah melihat bagaimana teknik dan eksploitasi jailbreak memungkinkan perilakunya diubah dan sisi gelapnya, DAN, dirilis, yang berkat petunjuk tertentu berhasil berperilaku sangat berbeda dari ChatGPT dan melampaui batas etika dengan menjawab pertanyaan yang tidak akan dijawab sebaliknya.

A lire également : Warga Zimbabwe melakukan pemungutan suara untuk hari kedua di daerah yang mengalami penundaan

WormGPT. Namun, satu pengembang telah melangkah lebih jauh dan menciptakan WormGPT, sebuah chatbot yang mirip dengan operasi ChatGPT tetapi secara khusus ditujukan untuk skenario jahat. Di SlashNext, sebuah perusahaan yang menyediakan layanan email aman, mereka telah menguji chatbot ini dan memverifikasi bahwa itu memang dapat digunakan untuk serangan BEC (Business Email Compromise). Jenis teknik ini, menurut FBI sendiri, adalah salah satu kejahatan yang dapat menyebabkan lebih banyak kerugian finansial bagi perusahaan melalui penipuan surat karyawan.

Dia juga menulis malware. ChatGPT banyak digunakan untuk menulis kode, tetapi dengan WormGPT kode itu bisa berbahaya. Pengembang WormGPT, yang menjual akses ke chatbot ini, memberikan tangkapan layar tentang bagaimana, misalnya, menggunakan alat itu dimungkinkan untuk membuat malware dengan Python.

Bagaimana WormGPT lahir. Menurut PCMag, pengembang menghadirkan chatbot pada bulan Maret, meskipun baru dirilis pada bulan Juni. Untuk membuatnya, dia mengklaim telah menggunakan model Open Source “lama” yang disebut GPT-J, mirip dengan GPT-3 dan memiliki 6.000 juta parameter, angka yang tidak terlalu tinggi—versi terbaru Llama 2 memiliki varian 70.000 juta, misalnya—. Dari sana, developer ini melatih model dengan data terkait pembuatan malware.

Janji (untuk yang buruk). Di SlashNext mereka menemukan bahwa chatbot mampu menulis email yang sangat meyakinkan yang dapat digunakan dalam serangan BEC, dan seperti yang dikatakan oleh mereka yang bertanggung jawab, “Hasilnya sangat mengganggu. WormGPT menghasilkan email yang tidak hanya sangat persuasif, tetapi juga cerdik secara strategis, menunjukkan potensinya untuk serangan phishing dan BEC yang canggih.”

AI Phishing. Alat tersebut tidak membuat kesalahan ejaan atau tata bahasa dalam penulisan, tetapi juga menggunakan bahasa profesional yang mendesak korban untuk mengirimkan uang. Bagi para ahli ini, “eksperimen ini menggarisbawahi ancaman signifikan yang ditimbulkan oleh teknologi AI generatif seperti WormGPT, bahkan di tangan penjahat dunia maya pemula.”

harganya berapa. Menggunakan WormGPT, ya, membebankan biaya 60 euro per bulan atau 550 euro per tahun. Di PCMag mereka mengutip perkataan salah satu pembeli, yang berkomentar di forum tempat dia membelinya bahwa pengembangan ini “tidak bernilai sepeser pun” karena kinerjanya yang buruk. Pernyataan itu sangat kontras dengan komentar SlashNext, tetapi satu hal yang pasti: model AI yang dilatih untuk tujuan jahat tidak diragukan lagi akan menjadi salah satu wajah tersembunyi yang tidak nyaman dari teknologi ini.

Gambar | PCMag

Di | Ekstensi browser ChatGPT ada di mana-mana. Beberapa merupakan ancaman yang tidak menyenangkan