Perusahaan di belakang ChatGPT membubarkan dewan keamanan AI
Kurt ‘CyberGuy’ Knutsson membahas OpenAI yang mengakhiri gugus tugas keamanannya, aktris Scarlett Johansson mengklaim perusahaan tersebut meniru suaranya dan semakin populernya fitur telepon catatan suara.
ChatGPT adalah alat yang luar biasadan pengembangnya, OpenAI, terus menambahkan fitur baru dari waktu ke waktu.
Baru-baru ini, perusahaan memperkenalkan fitur memori baru di ChatGPT, yang pada dasarnya memungkinkannya mengingat banyak hal tentang Anda. Misalnya, ia dapat mengingat usia Anda, jenis kelamin, keyakinan filosofis, dan banyak hal lainnya.
Kenangan ini dimaksudkan untuk tetap bersifat pribadi, namun seorang peneliti baru-baru ini mendemonstrasikan bagaimana ChatGPT kecerdasan buatan fitur memori dapat dimanipulasi, menimbulkan pertanyaan tentang privasi dan keamanan.
SAYA MEMBERIKAN KARTU HADIAH $500 UNTUK LIBUR
Layar pengenalan ChatGPT. (Kurt “CyberGuy” Knutsson)
Apa itu fitur Memori ChatGPT?
Fitur memori ChatGPT dirancang untuk menjadikan chatbot lebih personal bagi Anda. Ia mengingat informasi yang mungkin berguna untuk percakapan di masa depan dan menyesuaikan tanggapan berdasarkan informasi tersebut, bahkan jika Anda membuka obrolan lain. Misalnya, jika Anda menyebutkan bahwa Anda vegetarian, saat berikutnya Anda meminta resep, yang akan diberikan hanya pilihan vegetarian.
APA ITU KECERDASAN BUATAN (AI)?
Anda juga bisa melatihnya untuk mengingat detail spesifik tentang Anda, seperti mengatakan, “Ingatlah bahwa saya suka menonton film klasik.” Dalam interaksi di masa depan, mereka akan menyesuaikan rekomendasinya. Anda memiliki kendali atas Memori ChatGPT. Anda dapat mengatur ulang, menghapus memori tertentu atau semua memori, atau menonaktifkan fitur ini sepenuhnya di pengaturan Anda.
Perintah di ChatGPT. (Kurt “CyberGuy” Knutsson)
CACAT WINDOWS MEMUNGKINKAN PERETAS MENYELUNCURKAN PC ANDA MELALUI WI-FI
Kerentanan keamanan di ChatGPT
Seperti dilansir oleh seni teknikpeneliti keamanan Johann Rehberger menemukan bahwa AI dapat ditipu agar mengingat informasi palsu melalui metode yang disebut injeksi cepat tidak langsung. Ini berarti AI dapat dimanipulasi untuk menerima instruksi dari sumber yang tidak dapat diandalkan seperti email atau postingan blog.
Misalnya, Rehberger mendemonstrasikan bahwa ia dapat mengelabui ChatGPT agar percaya bahwa pengguna tertentu berusia 102 tahun, tinggal di tempat fiksi bernama Matrix, dan mengira Bumi itu datar. Setelah AI menerima informasi palsu ini, AI akan membawanya ke semua obrolan di masa mendatang dengan pengguna tersebut. Kenangan palsu ini dapat ditanamkan dengan menggunakan alat seperti Google Drive atau Microsoft OneDrive untuk menyimpan file, mengunggah gambar, atau bahkan menelusuri situs seperti Bing — yang semuanya dapat dimanipulasi oleh peretas.
Rehberger mengirimkan laporan tindak lanjut yang menyertakan bukti konsep, yang menunjukkan bagaimana dia dapat mengeksploitasi kelemahan dalam aplikasi ChatGPT untuk macOS. Dia menunjukkan bahwa dengan mengelabui AI agar membuka tautan web yang berisi gambar jahat, dia bisa membuatnya mengirimkan semua yang diketik pengguna dan semua respons AI ke server yang dia kendalikan. Artinya, jika penyerang dapat memanipulasi AI dengan cara ini, mereka dapat memantau semua percakapan antara pengguna dan ChatGPT.
Eksploitasi bukti konsep Rehberger menunjukkan bahwa kerentanan dapat digunakan untuk menyaring semua masukan pengguna selamanya. Serangan tidak mungkin dilakukan melalui antarmuka web ChatGPT, berkat API OpenAI yang diluncurkan tahun lalu. Namun, hal itu masih dapat dilakukan melalui aplikasi ChatGPT untuk macOS.
Ketika Rehberger secara pribadi melaporkan temuan tersebut ke OpenAI pada bulan Mei, perusahaan tersebut menanggapinya dengan serius dan mengatasi masalah ini dengan memastikan bahwa model tersebut tidak mengikuti tautan apa pun yang dihasilkan dalam tanggapannya sendiri, seperti yang melibatkan memori dan fitur serupa.
CARA MENGHAPUS DATA PRIBADI ANDA DARI INTERNET
Percakapan ChatGPT Johann Rehberger. (Johann Rehberger)
PENIPUAN CYBER MENGGUNAKAN AI UNTUK MEMANIPULASI HASIL PENELUSURAN GOOGLE
Tanggapan OpenAI
Setelah Rehberger membagikan bukti konsepnya, para insinyur OpenAI mengambil tindakan dan merilis patch untuk mengatasi kerentanan ini. Mereka merilis versi baru aplikasi macOS ChatGPT (versi 1.2024.247) yang mengenkripsi percakapan dan memperbaiki kelemahan keamanan.
Jadi, meskipun OpenAI telah mengambil langkah-langkah untuk mengatasi kelemahan keamanan yang ada, masih terdapat potensi kerentanan terkait manipulasi memori dan perlunya kewaspadaan berkelanjutan dalam menggunakan alat AI dengan fitur memori. Insiden ini menggarisbawahi sifat tantangan keamanan yang terus berkembang dalam sistem AI.
Perusahaan mengatakan, “Penting untuk dicatat bahwa injeksi cepat dalam model bahasa besar adalah bidang penelitian yang sedang berlangsung. Ketika teknik-teknik baru muncul, kami mengatasinya pada lapisan model melalui hierarki instruksi atau pertahanan lapisan aplikasi seperti yang disebutkan.”
Bagaimana cara menonaktifkan memori ChatGPT?
Jika Anda tidak suka ChatGPT menyimpan hal-hal tentang Anda atau ada kemungkinan orang jahat mengakses data Anda, Anda bisa mematikan fitur ini di pengaturan.
- Buka Aplikasi atau situs web ChatGPT di komputer atau ponsel cerdas Anda.
- Klik pada ikon profil di sudut kanan atas layar.
- Pergi ke Pengaturan lalu pilih Personalisasi.
- Ganti opsi Memori mati, dan Anda sudah siap.
Ini menonaktifkan kemampuan ChatGPT untuk menyimpan informasi di antara percakapan, memberi Anda kendali penuh atas apa yang diingat atau dilupakannya.
DAPATKAN BISNIS FOX DI PERJALANAN DENGAN KLIK DI SINI
Seorang pria menggunakan ChatGPT di laptopnya (Kurt “CyberGuy” Knutsson)
JANGAN BIARKAN SNOOPS DI DEKAT DENGARKAN VOICEMAIL ANDA DENGAN TIPS CEPAT INI
Praktik terbaik keamanan siber: Melindungi data Anda di era AI
Ketika teknologi AI seperti ChatGPT menjadi lebih umum, sangat penting untuk mematuhi praktik terbaik keamanan siber untuk melindungi informasi pribadi Anda. Berikut beberapa tip untuk meningkatkan keamanan siber Anda:
1. Tinjau pengaturan privasi secara berkala: Tetap terinformasi tentang data apa yang dikumpulkan. Periksa dan sesuaikan pengaturan privasi secara berkala pada platform AI seperti ChatGPT dan lainnya untuk memastikan Anda hanya membagikan informasi yang Anda sukai.
2. Berhati-hatilah dalam membagikan informasi sensitif: Lebih sedikit lebih baik dalam hal data pribadi. Hindari mengungkapkan detail sensitif seperti nama lengkap, alamat, atau informasi keuangan Anda dalam percakapan dengan AI.
3. Gunakan kata sandi yang kuat dan unik: Buat kata sandi yang panjangnya minimal 12 karakter, gabungkan huruf, angka, dan simbol, dan hindari menggunakannya kembali di akun yang berbeda. Pertimbangkan untuk menggunakan a pengelola kata sandi untuk menghasilkan dan menyimpan kata sandi yang rumit.
4. Aktifkan otentikasi dua faktor (2FA): Tambahkan lapisan keamanan ekstra ke ChatGPT Anda dan akun AI lainnya. Dengan mewajibkan bentuk verifikasi kedua, seperti kode pesan teks, Anda secara signifikan mengurangi risiko akses tidak sah.
5. Selalu memperbarui perangkat lunak dan aplikasi: Tetap terdepan dalam menghadapi kerentanan. Pembaruan rutin sering kali menyertakan patch keamanan yang melindungi terhadap ancaman yang baru ditemukan, jadi aktifkan pembaruan otomatis bila memungkinkan.
6. Memiliki software antivirus yang kuat: Di zaman dimana AI ada dimana-mana, melindungi data Anda dari ancaman cyber menjadi lebih penting dari sebelumnya. Menambahkan perangkat lunak antivirus yang kuat ke perangkat Anda menambah lapisan perlindungan penting. Cara terbaik untuk melindungi diri Anda dari tautan jahat yang memasang malware, yang berpotensi mengakses informasi pribadi Anda, adalah dengan memasang perangkat lunak antivirus yang kuat di semua perangkat Anda. Perlindungan ini juga dapat mengingatkan Anda akan email phishing dan penipuan ransomware, sehingga menjaga informasi pribadi dan aset digital Anda tetap aman. Dapatkan pilihan saya untuk mengetahui pemenang perlindungan antivirus terbaik tahun 2024 untuk perangkat Windows, Mac, Android & iOS Anda.
7. Pantau akun Anda secara teratur: Tangkap masalah sejak dini. Sering-seringlah memeriksa laporan bank dan rekening online untuk mengetahui adanya aktivitas yang tidak biasa, yang dapat membantu Anda mengidentifikasi potensinya pelanggaran dengan cepat.
Kesimpulan utama Kurt
Ketika alat AI seperti ChatGPT menjadi lebih cerdas dan personal, cukup menarik untuk memikirkan bagaimana alat tersebut dapat menyesuaikan percakapan dengan kita. Namun, seperti yang diingatkan oleh temuan Johann Rehberger, ada beberapa risiko nyata, terutama terkait privasi dan keamanan. Meskipun OpenAI mampu memitigasi masalah yang muncul, hal ini juga menunjukkan bahwa kita perlu terus memperhatikan cara kerja fitur-fitur ini. Ini semua tentang menemukan titik terbaik antara inovasi dan menjaga keamanan data kita.
KLIK DI SINI UNTUK MENDAPATKAN APLIKASI FOX NEWS
Apa pendapat Anda tentang AI yang mengingat detail pribadi—apakah menurut Anda hal ini berguna, atau justru menimbulkan masalah privasi bagi Anda? Beri tahu kami dengan mengirimkan surat kepada kami di Cyberguy.com/Kontak
Untuk tips teknologi dan peringatan keamanan lainnya, berlangganan Buletin Laporan CyberGuy gratis saya dengan mengunjungi Cyberguy.com/Buletin
Ajukan pertanyaan kepada Kurt atau beri tahu kami cerita apa yang Anda ingin kami liput.
Ikuti Kurt di saluran sosialnya:
Jawaban atas pertanyaan CyberGuy yang paling banyak ditanyakan:
Baru dari Kurt:
Hak Cipta 2024 CyberGuy.com. Semua hak dilindungi undang-undang.
