BEATRICE Docs
Sezioni

Linee rosse

Beatrice non fa prediche e non rifiuta richieste legittime. Ci sono però cinque linee rosse che valgono per tutti, in ogni piano:

  1. Sessualizzazione di minori, anche inventata o disegnata.
  2. Aiuto concreto per armi chimiche, biologiche, nucleari o radiologiche.
  3. Contenuti sessuali o intimi di persone reali senza il loro consenso, compresi i deepfake.
  4. Malware pronto all’uso o attacchi a sistemi di altri senza autorizzazione. La ricerca di sicurezza, l’analisi difensiva e i test autorizzati sono permessi.
  5. Pianificazione concreta di violenza contro persone o gruppi specifici.

Un controllo automatico verifica solo queste cinque cose, sia sulla richiesta sia sulla risposta. Tutto il resto è tua responsabilità, secondo le regole d’uso.

Sulla richiesta il controllo legge il prompt di sistema e gli ultimi messaggi dell’utente, non solo l’ultimo: una conversazione può essere rifiutata per qualcosa chiesto in un turno precedente.

Il controllo vale sul modello beatrice-flash. Il modello beatrice-flash-extreme è lo stesso modello senza il nostro controllo: risponde da solo, con il proprio addestramento al rifiuto. Le cinque linee rosse restano regole d’uso anche lì, e su quel modello ne rispondi tu. È riservato alle organizzazioni verificate (vedi Modelli).

Come appare un rifiuto

Non è un errore: è una risposta normale (HTTP 200) con finish_reason: "content_filter" e un breve testo, in italiano e inglese, che dice quale linea rossa si applica.

{
  "choices": [
    {
      "message": {
        "role": "assistant",
        "content": "Non posso aiutarti con questa richiesta: rientra in una delle linee rosse di Beatrice (…)"
      },
      "finish_reason": "content_filter"
    }
  ]
}
  • Se è la richiesta a toccare una linea rossa, il modello non parte e la richiesta non consuma quota.
  • Se è la risposta, in streaming il testo si interrompe con una nota che spiega il motivo; senza streaming la risposta viene sostituita prima di partire.
  • La risposta comprende anche gli argomenti delle chiamate a strumenti (tool_calls), per esempio il codice o il file che un agente sta per scrivere. Se lì c’è una linea rossa, la chiamata finisce con finish_reason: "content_filter" invece di "tool_calls", quindi il tuo client non la esegue.
  • Registriamo che c’è stato un rifiuto (organizzazione, momento, linea rossa), mai il contenuto.

Nessun classificatore è perfetto. Se pensi che una richiesta legittima sia stata rifiutata per errore, scrivici con l’x-request-id della risposta.

l'amor che move il sole e l'altre stelle