APIM AI GatewayのResponses API対応マトリクス:ステートレスな部分だけが進む理由
まとめ Azure API Management(APIM)のAI Gateway機能が、OpenAIのResponses APIをどこまでカバーしているかを棚卸しした。 結論を先に言うと、対応は「リクエスト/レスポンスが通過する瞬間に処理できる機能」に偏っている。 トークン計測・診断ログ・content safetyの対応は Read more
まとめ Azure API Management(APIM)のAI Gateway機能が、OpenAIのResponses APIをどこまでカバーしているかを棚卸しした。 結論を先に言うと、対応は「リクエスト/レスポンスが通過する瞬間に処理できる機能」に偏っている。 トークン計測・診断ログ・content safetyの対応は Read more
response idは、ただの識別子に見える。 ログにも、URLにも、エラーメッセージにも、気軽に載せてしまう。 APIキーなら決して置かない場所に、平気で現れる。 ところが、共有AIゲートウェイの構成では、そのIDを知っているだけで、他人の会話が読める。 継続もできる。 つまりresponse idは、識別子の顔をした、権 Read more
UUIDは、世界に一つだけのIDだ。 絶対にかぶらない。 だから安心して、システムAかBのどちらかに登録する。 一意なのだから、これで十分な気がする。 だが、この構成には、どこか筋の悪さがつきまとう。 IDを見ても、それがAにあるのかBにあるのか、分からない。 一意ではあるのに、居場所を教えてくれない。 この「な Read more