Un modelo de 27B en un portátil 'interpretando' pesos de otro modelo: ¿hype o algo útil?

Simon Willison publicó ayer cómo Qwen 3.8 27B, corriendo en local, puede describir qué hacen ciertos pesos de un modelo. Ya ha salido una réplica diciendo que el planteamiento es engañoso, así que hay debate. Para los que trabajamos con LLMs en producción, la interpretabilidad suena muy bonito pero rara vez la tocamos. ¿Alguno usa herramientas de interpretabilidad en el día a día o esto sigue siendo cosa de laboratorio?