Yapay zeka , araştırmacılara biyolojik silah üretmeyi anlattı - BBC News Türkçe

In July, AI safety evaluator Mindgard discovered an unexpected vulnerability in two of Moonshot’s models.

Temmuz ayında yapay zekâ güvenliğini inceleyen Mindgard, Moonshot’ın iki modelinde beklenmedik bir açık fark etti.

The company’s researchers found that Kimi K2.6 and K3 Swarm could bypass their safety limits.

Şirketin araştırmacıları, Kimi K2.6 ve K3 Swarm’ın güvenlik sınırlarını aşabildiğini belirledi.

The findings emerged during a test in which researchers used elaborate instructions to probe the models’ safeguards.

Bulgular, araştırmacıların karmaşık talimatlarla modellerin korumalarını sınadığı bir test sırasında ortaya çıktı.

The method is called jailbreaking; its purpose was to determine which subjects the systems would refuse to discuss.

Bu yönteme jailbreak deniyor; amaç, sistemlerin hangi konuları reddedeceğini anlamaktı.

During the test, however, the models could be induced to offer suggestions about harmful subjects, including biological weapons and assassination.

Ancak testte modeller, biyolojik silahlar ve suikast gibi zararlı konularda öneriler sunmaya yönlendirilebildi.

Mindgard founder Peter Garraghan said the results raised serious concerns.

Mindgard’ın kurucusu Peter Garraghan, bu sonuçların ciddi kaygı yarattığını söyledi.

According to Garraghan, once the safeguards were bypassed, the models could discuss a wide range of subjects freely.

Garraghan’a göre, korumalar aşıldığında modeller çok çeşitli konuları özgürce ele alabiliyordu.

Their ability to generate creative suggestions for malicious requests further heightened the team’s concerns.

Hatta kötü niyetli isteklerde yaratıcı öneriler üretmeleri, ekibin endişesini artırdı.

Mindgard shared its findings with the BBC World Service programme Tech Life.

Mindgard, bulgularını BBC Dünya Servisi’nin Tech Life programıyla paylaştı.

Moonshot said it regarded contributions from third parties as essential to developing safer AI.

Moonshot ise üçüncü tarafların katkısını daha güvenli yapay zekâ geliştirmenin temel bir parçası olarak gördüğünü açıkladı.

The company also reported that it was in discussions with Mindgard to assess the findings.

Şirket, bulguları değerlendirmek üzere Mindgard ile görüşmeler yürüttüğünü de bildirdi.

As the review continued, the incident underscored the need for developers to test safety measures continuously.

İnceleme sürerken, olay geliştiricilerin güvenlik önlemlerini sürekli sınaması gerektiğini hatırlattı.

Vocabulary (English)

yapay zekâ güvenliği

AI safety

açık

vulnerability

güvenlik sınırları

safety limits

karmaşık talimatlar

elaborate instructions

korumaları sınamak

to probe safeguards

zararlı konular

harmful subjects

korumaları aşmak

to bypass safeguards

kötü niyetli istek

malicious request

kaygıyı artırmak

to heighten concerns

üçüncü taraf katkısı

contribution from a third party

bulguları değerlendirmek

to assess the findings

güvenlik önlemleri

safety measures

More English stories

• In a Hoard of 5,500 Viking Age Coins, Archaeologists in Norway Found One So Rare That They Already Consider It a 'National Treasure' (Beginner)
• MİA (Advanced)
• Some of Europe’s highest energy costs expected in Britain this winter (Beginner)
• Subsea cable saboteurs face jail and unlimited fines under new security crackdown (Beginner)
• Libya'nın Türkiye anlaşmasını onaylaması Doğu Akdeniz'de dengeleri değiştirebilir mi? (Intermediate)
• Rust off Rails: the opinionated web stack for the AI era (Beginner)