Anthropic, kullanıcıların Claude'a karşı kötü davranmasını yasakladı

AI şirketi Anthropic, kullanıcı kurallarında önemli değişiklikler yaptı. Uzun süreli ve gerekçesiz aşağılayıcı davranışların AI asistanı Claude'a karşı yasaklandığı bildiriliyor. Bu durumda, araç konuyu sonlandıracak. Anthropic'e göre, bu kural yalnızca kullanıcıların AI modeline açık bir amaç olmaksızın tekrar tekrar kötü davrandığı aşırı durumlar için geçerli.

Normal hayal kırıklığı, AI'nın yanıtlarına yönelik eleştiriler, karanlık yaratıcı temalar ve araştırmalar yasak kapsamına girmiyor. Güncellenen kurallar, Claude'un siyasi etki kampanyaları, yanıltıcı propaganda ve seçim etki amacıyla kullanılmasına yönelik daha sıkı yasaklar da içeriyor. Şirket, AI'nın insanların izni olmadan gözetim amacıyla kullanılmasının yanı sıra silah sistemleri geliştirmek için kullanılmasına yönelik yasaklarını netleştirdi.