該服務(wù)包括文本和圖像檢測(cè)，并識(shí)別微軟“冒犯性、危險(xiǎn)或不受歡迎的”術(shù)語(yǔ)的內(nèi)容。

　　“通過(guò)關(guān)注內(nèi)容安全，我們可以創(chuàng)建一個(gè)更安全的數(shù)字環(huán)境，促進(jìn)負(fù)責(zé)任地使用人工智能，并保護(hù)個(gè)人和整個(gè)社會(huì)的福祉，”Azure 異常檢測(cè)器產(chǎn)品經(jīng)理 Louise Han 在宣布推出的博客文章中寫道。Azure AI 內(nèi)容安全能夠處理各種內(nèi)容類別、語(yǔ)言和威脅，以審核文本和視覺內(nèi)容。它還提供使用人工智能算法掃描，分析和調(diào)節(jié)視覺內(nèi)容的圖像功能，確保微軟所說(shuō)的360度全面安全措施。

　　公司部署生成式人工智能的領(lǐng)域

　　該服務(wù)還配備了跨多種語(yǔ)言審核內(nèi)容的功能，并使用嚴(yán)重性指標(biāo)，該指標(biāo)以 0 到 7 的等級(jí)指示特定內(nèi)容的嚴(yán)重性。

　　0-1 級(jí)的內(nèi)容被視為安全且適合所有受眾，而表達(dá)偏見、評(píng)判或固執(zhí)己見的觀點(diǎn)的內(nèi)容則分為 2-3 級(jí)或低級(jí)。

　　中等嚴(yán)重性內(nèi)容分為 4-5 級(jí)，包含攻擊性、侮辱性、嘲弄性、恐嚇性語(yǔ)言或針對(duì)身份群體的露骨攻擊，而高嚴(yán)重性內(nèi)容的分級(jí)為 6-7。

　　Azure AI 內(nèi)容安全還使用多類別篩選來(lái)識(shí)別和分類多個(gè)關(guān)鍵域中的有害內(nèi)容，包括仇恨、暴力、自殘和性內(nèi)容。

　　“[當(dāng)涉及到在線安全時(shí)]，考慮的不僅僅是人為生成的內(nèi)容至關(guān)重要，尤其是在人工智能生成的內(nèi)容變得普遍的情況下，”含寫道。“確保人工智能生成的輸出中的準(zhǔn)確性、可靠性和不存在有害或不適當(dāng)?shù)牟牧现陵P(guān)重要。內(nèi)容安全不僅可以保護(hù)用戶免受錯(cuò)誤信息和潛在傷害，還可以維護(hù)道德標(biāo)準(zhǔn)并建立對(duì)人工智能技術(shù)的信任。