Microsoft, yapay zeka içerik güvenliği hizmetini başlatıyor - Dünyadan Güncel Teknoloji Haberleri

Microsoft, yapay zeka içerik güvenliği hizmetini başlatıyor - Dünyadan Güncel Teknoloji Haberleri

Azure AI İçerik Güvenliği, kullandıkça öde esasına göre fiyatlandırılır

Telif Hakkı © 2023 IDG Communications, Inc

0-1 arasında derecelendirilen içerik tüm izleyiciler için güvenli ve uygun kabul edilirken önyargılı, yargılayıcı veya sabit görüşler ifade eden içerik 2-3 veya düşük olarak derecelendirilir İlgilenen kullanıcılar fiyat seçeneklerini kontrol edebilirler

Azure AI İçerik Güvenliği ayrıca nefret, şiddet, kendine zarar verme ve cinsellik de dahil olmak üzere bir dizi kritik etki alanındaki zararlı içeriği tanımlamak ve kategorilere ayırmak için çok kategorili filtrelemeyi kullanır İçerik güvenliği, kullanıcıları yalnızca yanlış bilgilerden ve olası zararlardan korumakla kalmıyor, aynı zamanda etik standartları destekliyor ve yapay zeka teknolojilerine güven oluşturuyor

Orta önem derecesine sahip içerik 4-5 arasında derecelendirilir ve saldırgan, aşağılayıcı, alaycı, korkutucu bir dil veya kimlik gruplarına yönelik açık saldırılar içerir; yüksek önem dereceli içerik ise zararlı eylemlerin zararlı ve açık bir şekilde tanıtımını içeren veya zararlı eylemlerin aşırı biçimlerini onaylayan veya yüceltendir

“[When it comes to online safety] Özellikle yapay zeka tarafından oluşturulan içerik yaygınlaştıkça, insan tarafından oluşturulan içerikten daha fazlasını dikkate almak çok önemli,” diye yazdı Han

Azure Anomali Dedektörü ürün müdürü Louise Han, bir blog yazısında şunları yazdı: “İçerik güvenliğine odaklanarak, yapay zekanın sorumlu kullanımını teşvik eden ve bireylerin ve bir bütün olarak toplumun refahını koruyan daha güvenli bir dijital ortam yaratabiliriz Ayrıca görsel içeriği taramak, analiz etmek ve denetlemek için yapay zeka algoritmalarını kullanan görüntü özellikleri sunarak Microsoft’un 360 derece kapsamlı güvenlik önlemleri olarak adlandırdığı şeyi sağlar


Microsoft, kullanıcıların uygulamalar ve hizmetler genelinde zararlı yapay zeka ve kullanıcı tarafından oluşturulan içeriği tespit etmesine ve filtrelemesine yardımcı olan yeni bir hizmet olan Azure AI İçerik Güvenliğinin genel kullanıma sunulduğunu duyurdu

Hizmet aynı zamanda birden çok dildeki içeriği denetlemek için de donatılmıştır ve belirli içeriğin önem derecesini 0 ile 7 arasında değişen bir ölçekte gösteren bir önem derecesi ölçüsü kullanır kimlik gruplarına yönelik etkinlik 6-7 arasında derecelendirilir

Azure AI İçerik Güvenliği Hem metin hem de görsel içeriği denetlemek için çeşitli içerik kategorilerini, dilleri ve tehditleri yönetme becerisine sahiptir



genel-13

” lansmanı duyuruyor

Hizmet, metin ve resim algılamayı içerir ve küfür, yetişkinlere yönelik içerik, kan, şiddet ve belirli konuşma türleri dahil olmak üzere Microsoft’un “saldırgan, riskli veya istenmeyen” olarak nitelendirdiği içeriği tanımlar Azure AI İçerik Güvenliği fiyatlandırma sayfası “Yapay zeka tarafından üretilen çıktılarda doğruluğun, güvenilirliğin ve zararlı veya uygunsuz malzemelerin bulunmamasının sağlanması esastır