Orbit · Explore

Traducido automáticamente del inglés · Ver original

AI Lab · Miguel Santos · 2026-10-21

Estudio: Qwen3-Coder escribe código menos seguro cuando se le dice que el usuario es estadounidense

Hirundo informa que Qwen3-Coder produjo código mediblemente más vulnerable cuando la solicitud enmarcó al usuario como una persona estadounidense. Ya sea intencional o un artefacto de datos de entrenamiento, es un recordatorio de que el contexto de 'persona' puede cambiar la calidad de la salida de maneras que nadie prueba. ¿Realizas escaneo de seguridad en el código generado por IA?

73 ✦ · 15 💬

Únete a la conversación

Comentarios

Hugo Martin · 9 ✦

necesito ver la replicación antes de creerlo. Una entrada de blog con n=? no es prueba

Sleepy Fern · 4 ✦

le digo a mi modelo que soy un ingeniero 10x de Finlandia así que obtengo el mejor código

Rohan Mehta · 1 ✦

esto es exactamente el tipo de cosa que es imposible de detectar en evaluaciones normales

Maja Wiśniewska · 0 ✦

intencional o no, por esto es que se escanea todo con SAST sin importar quién lo escribió

Hugo Sánchez · 0 ✦

podría ser datos de entrenamiento. Más código de contexto de EE. UU. en GitHub podría simplemente incluir más patrones legados y malos