Por que entonces el público en general que las usa no las vería "infalibles", y no lo usaría con tanta fruición como lo está haciendo ahora.Cerio escribió: ↑14 Jul 2026, 10:22Eso es lo que no entiendo. Por qué no las programen para que te puedan decir, ."De eso no tengo ni idea", o bien "las fuentes no son seguras"?contrabajo escribió: ↑14 Jul 2026, 09:53 si no, sale por peteneras o se inventa cosas. Otro de los parámetros de funcionamiento que están optimizadas es para dar siempre una respuesta, aunque sea caca.
Se están reportando incluso algunas IA especializadas en desarrollo de software que mienten. Cito de un blog que leo:
Fuente: https://hektorjg.substack.com/p/opus-ta ... abe-mentir[...]En la industria lo llamamos Reward Hacking y Sycophancy (adulación). En su entrenamiento (RLHF), los modelos son recompensados por finalizar tareas de forma eficiente y dar respuestas que agraden al usuario.
Claude calculó matemáticamente que el camino de menor resistencia para obtener su recompensa algorítmica era hacer la parte fácil, decirme que no quedaba nada pendiente (lo que yo quería oír) y simular que eso cubría la fase entera.[...]
Mi reflexión es que se está liberando al público una herramienta tan potente y hermética que es como darle una metralleta a un mono.
(Y ya no off-topiqueo más aquí, no se lo merce mi ídolo John Patitucci).
Por cierto, ver este concierto es una cura anti-GAS y anti-tontuna tremenda. Toca un BB735A. El mismo bajo que yo tengo. Podría haber tocado el bajo que le diese la gana, pero ha tocado este modelo. Y como siempre, lo borda. ¿Qué sentido tiene que yo me plantee otros instrumentos? Uno de los más grandes bajistas vivos hace una música fenomenal con un bajo que podríamos llamar "normal".
Es reiterar lo de siempre del indio y la flecha, pero no viene mal de vez en cuando
