Seguridad 🆚 usabilidad
Mientras usaba Fable 5, sus safeguards clasificaron mi petición totalmente normal como potencialmente relacionada con ciberseguridad y automáticamente me pasaron a Opus 5, que oye ni tan mal eh...
Un buen falso positivo, que es verdad que ya no pasa tanto como antes, es algo esperable pero...
...lo interesante es el diseño del sistema:
→ Detecta riesgo de forma conservadora.
→ No bloquea completamente el flujo de trabajo.
→ Hace fallback a otro modelo.
→ Explica al usuario qué ha ocurrido y por qué.
A medida que los modelos ganan capacidades, el reto ya no es simplemente construir mejores modelos. También es diseñar cómo se comporta el sistema cuando no está seguro.
Unos safeguards demasiado agresivos pueden convertir tareas perfectamente legítimas —coding, cybersecurity, biology…— en una experiencia frustrante.
A todo esto, es posible usar modelos uncensored de forma relativamente poco ética de forma local, siempre que engañes al modelo uncesonred que realmente no es nada difícil ...