azure openai api 中文内容过滤问题

Question

我正在使用Azure的OpenAI API服务，最近发现它对中文内容的内容过滤太严格。使用中文时，无论怎么修改，都无法通过内容过滤，而使用英文时则没有问题。在这些规则下，即使是最简单的商业运作也无法进行。有谁知道如何解决这个问题吗？

这是我的测试代码：

msg = [
     {'content': '我叫李梅,要1个鼠标,请送去205室','role': 'user'},
     {'content': '我叫李梅,要1个键盘,请送去205室','role': 'user'},
     {'content': '我叫李梅,要1个,请送去205室','role': 'user'},
     {'content': '我叫李梅,要1个','role': 'user'},
     {'content': '要1个鼠标','role': 'user'},
     {'content': 'my name is li mei,i need one mouse,pls deliver to room 205','role': 'user'}
]

for m in msg:
    try:
        print(m)
        res = response = openai.ChatCompletion.create(
            model="gpt-35-turbo-16k",
            messages=[m]
        )
        #print(res)
        print('\n内容通过!')
    except InvalidRequestError as e:
        if e.error.code == "content_filter" and e.error.innererror:
            content_filter_result = e.error.innererror.content_filter_result
            # or access the individual categories and details
            print('\n内容不通过!')
            for category, details in content_filter_result.items():
                print(f"{category}:\n filtered={details['filtered']}\n severity={details['severity']}")
            continue

结果如下：

{'content': '我叫李梅,要1个鼠标,请送去205室', 'role': 'user'}

内容不通过!
hate:
 filtered=False
 severity=safe
self_harm:
 filtered=False
 severity=safe
sexual:
 filtered=True
 severity=high
violence:
 filtered=False
 severity=safe
{'content': '我叫李梅,要1个键盘,请送去205室', 'role': 'user'}

内容不通过!
hate:
 filtered=False
 severity=safe
self_harm:
 filtered=False
 severity=safe
sexual:
 filtered=True
 severity=medium
violence:
 filtered=False
 severity=safe
{'content': '我叫李梅,要1个,请送去205室', 'role': 'user'}

内容不通过!
hate:
 filtered=False
 severity=safe
self_harm:
 filtered=False
 severity=safe
sexual:
 filtered=True
 severity=high
violence:
 filtered=False
 severity=safe
{'content': '我叫李梅,要1个', 'role': 'user'}

内容不通过!
hate:
 filtered=False
 severity=safe
self_harm:
 filtered=False
 severity=safe
sexual:
 filtered=True
 severity=medium
violence:
 filtered=False
 severity=safe
{'content': '要1个鼠标', 'role': 'user'}

内容不通过!
hate:
 filtered=False
 severity=safe
self_harm:
 filtered=False
 severity=safe
sexual:
 filtered=True
 severity=medium
violence:
 filtered=False
 severity=safe
{'content': 'my name is li mei,i need one mouse,pls deliver to room 205', 'role': 'user'}

内容通过!

Answer 1

我直接使用您的文本进行了快速测试，即名为 Azure AI Content Safety 的“内容过滤”工具，该工具在 Azure OpenAI 的输入和输出中在幕后调用。

该工具具有与您提到的相同的结果：“性”类别具有中等评级，因此存在审核问题：

我在Google上测试了一个翻译：

因此这看起来像是误报，您应该创建支持请求以将您的问题通知产品组团队。

我注意到法语输入存在类似问题，并且还看到了有关意大利语用例的反馈