Günümüzde birçok kişi işleri için ChatGPT üzere yapay hudut ağlarına dayalı lisan modellerini kullanıyor. Rusya'da yapılan bir Kaspersky anketi, iştirakçilerin %11'inin sohbet robotlarını kullandığını ve yaklaşık %30'unun gelecekte işlerin yerini alma potansiyeline inandığını ortaya koydu. Öteki anketler, Belçikalı ofis çalışanlarının %50'sinin ve Birleşik Krallık'takilerin %65'inin ChatGPT'ye güvendiğini gösteriyor. Ayrıyeten Google Trends'te "ChatGPT" arama teriminin hafta içinde öne çıkması, muhtemelen işle ilgili taleplere bağlı olarak kullanımda besbelli bir artış olduğunu gösteriyor.
Ancak sohbet robotlarının iş yerindeki artan kullanımı çok değerli bir soruyu gündeme getiriyor: Hassas kurumsal bilgiler bu robotlara emanet edilebilir mi? Kaspersky araştırmacıları, ChatGPT'nin iş maksatlı kullanımıyla ilgili beş temel risk belirledi.Sağlayıcı tarafında bilgi sızıntısı yahut sisteme sızmaHer ne kadar LLM tabanlı sohbet robotları teknoloji devleri tarafından işletiliyor olsa da, onlar bile bilgisayar korsanlığına yahut sızıntılara karşı bağışık değildir. Örneğin ChatGPT kullanıcılarının oburlarının sohbet geçmişlerindeki mesajları görebildiği bir olay gerçekleşti.Sohbet robotları aracılığıyla bilgi sızıntısıTeorik olarak sohbet robotlarıyla yapılan yazışmalar gelecekteki modelleri eğitmek için kullanılabilir. LLM'lerin model kalitesini artırmayan, fakat saklılık riskleri oluşturan telefon numaraları üzere eşsiz dizileri hatırladıkları ve "kasıtsız ezberlemeye" hassas oldukları düşünüldüğünde, eğitim geçmişindeki rastgele bir dataya ezkaza yahut kasıtlı olarak başka kullanıcılar tarafından bu model aracılığıyla erişilebilir.Kötü niyetli istemciBu, ChatGPT üzere resmi hizmetlerin engellendiği yerlerde büyük bir tasa kaynağıdır. Kullanıcılar programlar, web siteleri yahut iletileşme botları üzere resmi olmayan alternatiflere başvurabilir ve mevcut olmayan istemci yahut uygulama olarak gizlenmiş kötü emelli yazılımları indirebilir.Hesap ele geçirmeSaldırganlar, kimlik avı akınları yahut kimlik bilgisi doldurma yoluyla çalışan hesaplarına girerek datalarına erişebilir. Bunun yanında Kaspersky Digital Footprint Intelligence, dark web forumlarında sistemli olarak chatbot hesaplarına erişim satan gönderiler buluyor. ChatGPT ve Synthesia kurumsal hesabına 40 Dolar karşılığında erişim satan bir dark web gönderisiYukarıda bahsi geçen bilgi kaybı, sohbet robotlarını kullanan kullanıcılar ve işletmeler için kıymetli bir kapalılık telaşı oluşturuyor. Sorumlu geliştiriciler, zımnilik siyasetlerinde bilgilerin model eğitimi için nasıl kullanıldığını ana sınırlarıyla belirtir. Kaspersky'nin ChatGPT, ChatGPT API, Anthropic Claude, Bing Chat, Bing Chat Enterprise, You.com, Google Bard ve Alloy Studios tarafından geliştirilen Genius App üzere tanınan sohbet botları üzerinde yaptığı tahlil, B2B bölümünde kurumsal bilgilerin açığa çıkma riskinin daha yüksek olması nedeniyle daha yüksek güvenlik ve kapalılık standartları olduğunu gösteriyor. Sonuç olarak, bilgi kullanımı, toplanması, depolanması ve işlenmesine ait karar ve şartlar, B2C bölümüne kıyasla daha fazla müdafaaya odaklanıyor. Bu çalışmadaki B2B tahlilleri ekseriyetle sohbet geçmişlerini otomatik olarak kaydetmiyor ve kimi durumlarda sohbet robotu müşterinin ağında lokal olarak çalıştığı için şirketin sunucularına hiçbir data göndermiyor.Kaspersky Güvenlik ve Zımnilik Uzmanı Anna Larkina, şunları söylüyor: "LLM tabanlı sohbet robotlarının iş emelli kullanımına bağlı potansiyel riskleri inceledikten sonra, hassas bilgi sızıntısı riskinin en fazla çalışanların iş yerinde şahsî hesaplarını kullandıkları durumda ortaya çıktığını gördük. Bu durum, çalışanların chatbot kullanımının riskleri konusunda bilinçlendirilmesini şirketler için en değerli öncelik haline getiriyor. Başka yandan çalışanların hangi bilgilerin bâtın yahut şahsî olduğunu, ticari sır teşkil ettiğini ve neden bir chatbot'a verilmemesi gerektiğini anlamaları gerekiyor. Öbür yandan şirketlerin de bu cins hizmetleri kullanmak için net kurallar belirlemesi gerekiyor." Sohbet robotlarını kullanmanın kapalılığa dair riskleri hakkında daha fazla bilgi edinmek için Securelist.com adresini ziyaret edin.Kaspersky uzmanları, şirketlerin sohbet robotlarını kullanmanın avantajlarından yararlanmaya devam etmeleri ve inançta kalmaları için şunları öneriyor:- Güçlü, Eşsiz Parolalar Kullanın: Her bir hesabınız için karmaşık parolalar oluşturun ve doğum günleri yahut isimler üzere basitçe kestirim edilebilecek bilgileri kullanmaktan kaçının.
- Kimlik Avına Dikkat Edin: Ferdî bilgilerinizi isteyen istenmeyen e-postalara, iletilere yahut aramalara karşı dikkatli olun. Rastgele bir hassas datayı paylaşmadan evvel gönderenin kimliğini doğrulayın.
- Çalışanlarınızı Eğitin: Çalışanlar en son çevrimiçi tehditler ve çevrimiçi inançta kalmak için en âlâ uygulamalar hakkında bilgi sahibi olmalıdır.
- Yazılımlarınızı Yeni Tutun: İşletim sisteminizi, uygulamalarınızı ve antivirüs programlarınızı tertipli olarak güncelleyin. Bu güncellemeler ekseriyetle en son güvenlik yamalarını içerir.
- Kurumsal Bilgi Paylaşımını Sınırlayın: Şahsî bilgileri toplumsal medyada yahut herkese açık forumlarda paylaşma konusunda dikkatli olun. Yalnızca katiyetle gerekli olduğunda bu bilgileri paylaşın.
- URL'leri ve Web Sitelerini Doğrulayın: Bilhassa oturum açma kimlik bilgilerini girmeden yahut alışveriş yapmadan evvel ziyaret ettiğiniz web sitelerinin URL'sini iki defa denetim edin.
- Kurumsal Güvenlik Tahlili Kullanın: Çalışanların iş hedefiyle güvenilmeyen sohbet robotlarına bağımsız olarak müracaatını önlemek için bulut hizmeti analitiği içeren bir güvenlik tahlili kullanabilirsiniz. Kaspersky Endpoint Security Cloud, özellikleri ortasında bulut hizmetlerini yönetmek ve kullanım risklerini kıymetlendirmek için Cloud Discovery’i içerir.