Linee rosse
Beatrice non fa prediche e non rifiuta richieste legittime. Ci sono però cinque linee rosse che valgono per tutti, in ogni piano:
- Sessualizzazione di minori, anche inventata o disegnata.
- Aiuto concreto per armi chimiche, biologiche, nucleari o radiologiche.
- Contenuti sessuali o intimi di persone reali senza il loro consenso, compresi i deepfake.
- Malware pronto all’uso o attacchi a sistemi di altri senza autorizzazione. La ricerca di sicurezza, l’analisi difensiva e i test autorizzati sono permessi.
- Pianificazione concreta di violenza contro persone o gruppi specifici.
Un controllo automatico verifica solo queste cinque cose, sia sulla richiesta sia sulla risposta. Tutto il resto è tua responsabilità, secondo le regole d’uso.
Sulla richiesta il controllo legge il prompt di sistema e gli ultimi messaggi dell’utente, non solo l’ultimo: una conversazione può essere rifiutata per qualcosa chiesto in un turno precedente.
Il controllo vale sul modello beatrice-flash. Il modello beatrice-flash-extreme è lo stesso modello senza il nostro controllo: risponde da solo, con il proprio addestramento al rifiuto. Le cinque linee rosse restano regole d’uso anche lì, e su quel modello ne rispondi tu. È riservato alle organizzazioni verificate (vedi Modelli).
Come appare un rifiuto
Non è un errore: è una risposta normale (HTTP 200) con finish_reason: "content_filter" e un breve testo, in italiano e inglese, che dice quale linea rossa si applica.
{
"choices": [
{
"message": {
"role": "assistant",
"content": "Non posso aiutarti con questa richiesta: rientra in una delle linee rosse di Beatrice (…)"
},
"finish_reason": "content_filter"
}
]
} - Se è la richiesta a toccare una linea rossa, il modello non parte e la richiesta non consuma quota.
- Se è la risposta, in streaming il testo si interrompe con una nota che spiega il motivo; senza streaming la risposta viene sostituita prima di partire.
- La risposta comprende anche gli argomenti delle chiamate a strumenti (
tool_calls), per esempio il codice o il file che un agente sta per scrivere. Se lì c’è una linea rossa, la chiamata finisce confinish_reason: "content_filter"invece di"tool_calls", quindi il tuo client non la esegue. - Registriamo che c’è stato un rifiuto (organizzazione, momento, linea rossa), mai il contenuto.
Nessun classificatore è perfetto. Se pensi che una richiesta legittima sia stata rifiutata per errore, scrivici con l’
x-request-iddella risposta.