Post B8SywYEGiGUf124zaq by caycedo@col.social
(DIR) More posts by caycedo@col.social
(DIR) Post #B8SgqgW1C3jXnpR1Sy by caycedo@col.social
0 likes, 0 repeats
Siguen apareciendo artículos “criticando” la IA generativa para escribir código o programar que le llaman. Y en todos los que he leído, encuentro párrafos similares al de la imagen. Estoy convencido de que la gente en verdad no aprendió nunca a programa o que en efecto existe gente que, sin importar si le gusta programar un computador, encuentran fascinante escribir el código. Es decir espichar la tecla f y luego la o y luego la r y luego el paréntesis redondo de apertura y así. Link abajo
(DIR) Post #B8SgqgmgC73qdVEKR6 by caycedo@col.social
0 likes, 0 repeats
De resto, todas esas críticas terminan pareciendo más un clamor de gente defraudada por no poder delegar a esa tecnología el entendimiento de lo que hacen. Y como añorando que ojalá llegue a eso pronto. https://functional.computer/blog/llms-cant-program
(DIR) Post #B8Sgqh2dEnozQyh4Ii by caycedo@col.social
0 likes, 0 repeats
Ahora que lo pienso. Por gente así es que tenemos patrones de diseño como la inyección de dependencia que es completamente inútil. No existe un solo caso de uso real que demande implementarla y por el contrario es un patrón de diseño que vuelve el código totalmente ilegible. Y esto fue hecho con estupidez natural.
(DIR) Post #B8SgqhG6Qib46kzpIW by gabriel@col.social
0 likes, 0 repeats
@caycedo La pregunta es que tan válidas son las críticas más puntuales. Por ejemplo, el que el Man pidiera que se incluyeran snapshots de la UX para hacerle debugging, y el "asistente" solo se las inventaba sin tener relación alguna con el código real. O que propusiera autenticación con public key, pero luego implementara un "return (True)".
(DIR) Post #B8SgqhUHZzwIojd9Oq by Mushi@col.social
0 likes, 0 repeats
@gabriel @caycedo *ui, uno no puede tomarle fotos a la ux, solo a la interfaz que la comunica al usuario.
(DIR) Post #B8Sgqhh2oY9DSJbLI8 by caycedo@col.social
0 likes, 0 repeats
@Mushi @gabriel rigor
(DIR) Post #B8SgqhqyDe5Tx6FGlM by gabriel@col.social
0 likes, 0 repeats
@caycedo @Mushi Bueno, pero enfoquémonos en lo relevante.
(DIR) Post #B8Sgqi1ba6auU5DlL6 by Mushi@col.social
0 likes, 0 repeats
@gabriel @caycedo bueno, yo no entiendo que tiene de malo disfrutar de hacer codigo a mano, sobre todo si creo que es mas o menos inimputable que programar mas a mano te da mas experiencia que te permite hacer mejor codigo. Y pues hay suficientes estudios ahi afuera para decir: si, el codigo extruido por maquinitas de decir mentiras es peor que el de un programador experimentado, tiene un monton de vulnerabilidades de seguridad, producir software de esa forma resta capacidades cognitivas... etc
(DIR) Post #B8SgqiGUgkVJEGBeXw by Mushi@col.social
0 likes, 0 repeats
@gabriel @caycedo si la critica es por alguien a quien le gusta mas una forma (si bien no mas rapida, aparentemente mas agil y efectiva) de hacer una cosa, la critica se me hace un poco inentendible. Si la critica es porque no es bueno haciendo prompts... ver el argumento anterior
(DIR) Post #B8SgqiTbtyznswK7zU by caycedo@col.social
0 likes, 0 repeats
@Mushi @gabriel en resumen me parece que esas críticas al final se confunden con lamentos. Aunque parecen ser gentes que quieren criticar la herramienta, casi siempre por mala, terminan añorando que ojalá sea buena pronto, muy pronto. Si es buena o mala habría que hacer cosas diferentes a un post en un blog. De pronto eso que llaman investigación.
(DIR) Post #B8SgqigN8XCiWWIJsm by gabriel@col.social
0 likes, 0 repeats
@caycedo @Mushi Por mi formación, yo me acerco a los problemas por dos partes. Busco si hay una explicación (mecanismo) que explique. Y busco si hay evidencia experimental que sirva para comprender. Las "alucinaciones" se explican por el diseño, el parámetro de desorden llamado "temperatura del modelo". Y hay numerosos ejemplos. Luego el fenómeno "los llms generan código basura" cumple ambas.Entonces no estoy de acuerdo con que sea un lamento, como lo llamas.
(DIR) Post #B8Sgqix28aX1MC5cqu by caycedo@col.social
0 likes, 0 repeats
@gabriel @Mushi en este caso creo que hay evidencia a favor y en contra. Cómo haría uno para evaluarla? En cuanto a tu fenómeno, como determina uno su valor de verdad? Es decir si es cierto, cumple ambas condiciones pero y si no?Eso sí que sería una cosa chévere de estudiar.
(DIR) Post #B8SgqjBDHrsG4AiwxE by gabriel@col.social
0 likes, 0 repeats
@caycedo @Mushi Dices evidencia en favor y en contra ... de qué? Si la hipótesis es "estos sistemas inherentemente yerran" sólo basta un ejemplo para que la hipótesis sea verdadera, así haya mil veces que no yerren. Luego lo que habría que estudiar es la tasa de error, pero de nuevo, sería imposible si el sistema cambia cada vez.
(DIR) Post #B8SgqjMYbgwqdM20dU by gabriel@col.social
0 likes, 0 repeats
@caycedo @Mushi Y bueno, en ciencia, cuando hay resultados experimentales que van contra la teoría, pues hay que modificar la teoría, probar sus límites, etc. Pero no es el caso aquí, porque hay una explicación clara de por qué son "bulshit machines" y hay suficientes ejemplos de que lo son.
(DIR) Post #B8Sgqja1nbivJ8KldI by caycedo@col.social
0 likes, 0 repeats
@gabriel @Mushi en ese caso habría que determinar que se considera un error. Porque podemos decir que un modelo de lenguaje genera sentencias en un lenguaje y en ese caso, no importa el valor de verdad de esa proposición sino que cumpla con las reglas del lenguaje. Entonces cuál sería un error?
(DIR) Post #B8Sgqjl18kVvrDTXlI by gabriel@col.social
0 likes, 0 repeats
@caycedo @Mushi Ahora, no creo que sea posible para la gente que no tiene acceso al entrenamiento el estudiar este fenómeno. No tenemos acceso a los datos de entrenamiento, y el mismo código (modelo) puede cambiar de un día para otro. Así no se puede llevar a cabo el método científico. Es como si intentaramos atrapar a un equipo tramposo de la F1, pero no tuvieramos acceso a la suspensión del vehículo ni a la mezcla de la gasolina, y ellos igual pudieran cambiarla cada vez.
(DIR) Post #B8SgqjnUzWUzyudWd6 by Mushi@col.social
0 likes, 0 repeats
@caycedo @gabriel pero esto ya es abusar del lenguaje, o de las condiciones para poder conseguir una respuesta que te convenga (bullshit, segun frankfurt). Si la hipotesis es "se produce mejor codigo usando llms" pues ahi esta la condición de verdad: esos estandares de calidad en codigo existen, puede ser comparado, lo ha sido, falla consistentemente
(DIR) Post #B8Sgqk5ZuIxcsz5xoG by gabriel@col.social
0 likes, 0 repeats
@Mushi @caycedo Los iabros dicen que sus "ias" pueden reemplazar a un programador junior. Entonces los criterios de evaluación serían los que se le exigirían a un junior. Si yo contrato a alguien para que me haga un código y le digo que incluya una api para que me saque impresiones de pantalla de la interfaz de usuario, y el tipo programa unos pantallazos sacados del orto, pues eso sería un error garrafal.
(DIR) Post #B8SgqkHHCoJnTGZJ2m by Mushi@col.social
0 likes, 0 repeats
@gabriel @caycedo exacto
(DIR) Post #B8SgqkQqdDyTwx2wxk by caycedo@col.social
0 likes, 0 repeats
@Mushi @gabriel nosotros prescindimos de alguien que para defender su código generado con ia, pasó un oantalllazo de la misma diciendo que si consideraba un caso que en efecto no lo consideró. Desconozco el prompt del man pero para mí es error más del ingeniero que de la herramienta. Es decir, hasta un martillo puede fallar pero si el carpintero me pasa la mesa chueca es culpa del carpintero.
(DIR) Post #B8SgqkcXvjKeXEWICG by caycedo@col.social
0 likes, 0 repeats
@Mushi @gabriel en mi experiencia los errores que me ha generado en código generado tienen que ver con validaciones que descubro luego en las pruebas. Eso he aprendido a mitigarlo con un flujo de trabajo diferente y considero que si me ha ayudado incluso en casos que el bloguero tuvo errores. Cómo implementar auth0 y teilio para un login con OTP. Pero el ingeniero que lo hizo pues supongo que cortó con suerte y pasó más cuidado
(DIR) Post #B8SgqkoFEEgp7VzdQm by Mushi@col.social
0 likes, 0 repeats
@caycedo @gabriel pero... pues usted esta ahi cayendo en el mismo error del man, adumir que como a usted le ha ido bien es el caso en general. Eso ignorando ademas el sesgo de confirmación. Yo por eso me devuelvo a que mas alla de la experiencia personal del tipo, o suya, el proyecto mas grande es un proyecto muy dañino, probadamente, de las formas académicas que usted buscaba, y en ese sentido, para citar a nick cave "you should fucking desist".
(DIR) Post #B8Sgql10Smtjl5xpK4 by caycedo@col.social
0 likes, 0 repeats
@Mushi @gabriel que agresividad. Al final solo sabemos que es una herramienta y así como a algunos el serrucho les mama gallo, otros son diestros en su uso. Que foquin desistan los que no pueden
(DIR) Post #B8SgqlCLmbyKKHGt0K by Mushi@col.social
0 likes, 0 repeats
@caycedo @gabriel no, no, sabemos que es mucho más que una herramienta, es la culminación de un proyecto de extracción de valor, es una cosa que destruye de forma incremental el planeta, es la causa de la proxima depresion economica, es parte de un proyecto eugenecista y racista, y es parte de un proyecto politico. En general las tecnologias no son buenas ni malas, ni neutrales (a la gente le gusta olvidarse mucho de esa segunda parte, que es la importante) pero esta es mucho menos neutral
(DIR) Post #B8SgqlNh6R2utSZwga by gabriel@col.social
0 likes, 0 repeats
@Mushi @caycedo Ya mirando ésta discusión con un poco de calma, veo que no nos podemos poner de acuerdo porque cada uno ve el fenómeno desde su propio modelo del mundo.Y tal vez lo que pasa es que tenemos que intentar verlo desde los ojos de la otra persona. La dificultad es que toca muchos aspectos de nuestros valores.Caycedo (y Linus, si a eso vamos) tienen razón en que desde el punto de vista púramente técnico hay un caso de uso para las ias que generan código....
(DIR) Post #B8SgqlcaD4xJddXptQ by gabriel@col.social
0 likes, 0 repeats
@Mushi @caycedo Y por lo tanto quien lo critica diciendo que no funciona tiene un punto ciego. Yo caí en ese error, al intentar encontrar un ejemplo(la impresión de pantalla errada) como una demostración de la inutilidad del sistema para un tercero. Y ahí está mi sesgo, dado que me gusta el determinismo, consideré que un sistema no-determinista tenía que ser inherentemente inútil. Pero Mushi tiene también razón al apuntar hacia el hecho de que esta tecnología no es neutral. ...
(DIR) Post #B8SgqlstES02SDArJI by gabriel@col.social
0 likes, 0 repeats
@Mushi @caycedo Si fuera sencillamente una herramienta para escribir código más eficientemente seguro que no tendríamos esta discusión. Probablemente muchos la usaríamos como un stack-overflow-on-steroids. Pero la realidad es que es ingenuo decir que es "sólo una herramienta", cuando su uso viola los derechos de autor de todos los que hemos escrito algo. Y que lo hace desde la asimetría de poder que tienen las empresas gigantes contra los ciudadanos particulares.Me les fajardié. Perdón.
(DIR) Post #B8Sgqm8qH8lBFgdbAu by Mushi@col.social
0 likes, 0 repeats
@gabriel @caycedo pero, pues por eso: yo no digo que nunca funcione ni que no pueda funcionar, puede entregar cosas funcionales, pero las fallas de esa producción son bien conocidas y son difíciles de corregir porque el método de producción en si genera variaciones eternas de esos errores. Es decir: va a llamar librerías que no existen pero que tienen las estructuras gramaticales del lenguaje de programación, va a generar bases de datos expuestas, etc. Porque el primero es un problema inherente
(DIR) Post #B8SgqmMJT3XFvSwMAi by Mushi@col.social
0 likes, 0 repeats
A la forma de producción por estimación, y el segundo tiene que ver con la forma en que es entrenado. Ambas cosas: la transformación de lenguaje y el entrenamiento con bases de datos muy grandes y con clasificaciones superficiales, son las claves de que la categoría de software pueda generar efectividad de superficie, pero ademas es la razón por la que reparar esos errores no es fácil, por que son lo que la hace funcionar. Yo por eso me devuelvo a 3 puntos:
(DIR) Post #B8SgqnHk1XTMnZoDgW by Mushi@col.social
0 likes, 0 repeats
1. ¿Estas herramientas son eficientes, o solo rapidas?2. ¿La relación costo/beneficio funciona para lxs trabajadores que las usan y las generan, en terminos financieros, cognitivos y de calidad de vida?3. ¿Los proyectos ideologicos que las gestaron y las permean son cosas de las que queramos participar y que queramos sostener?Y pues yo tengo mis respuestas, que se que me hacen molesto y parecer dogmatico, pero yo soy es radical que es distinto (el argumento también lo es)
(DIR) Post #B8SgsOj8IlCvDCNzcm by galactus@col.social
0 likes, 0 repeats
@Mushi 1. son eficientes, pero menos de lo que la industria pretende, sobre todo a largo plazo2. en geneal creo que no3. no, pero no creo que la alternativa realista sea la abolición
(DIR) Post #B8SiF6WeEvrpNMwBKC by Mushi@col.social
0 likes, 0 repeats
@galactus yo diria que no son eficientes cuando uno piensa en terminos de los recursos que usa y necesita para mantenerse¿Por que no es viable la abolicion? Qbolimos la esclavitud y el asbesto no vamos a poder dejar de usar chatbots
(DIR) Post #B8SxxZHOC3NybnSb1U by galactus@col.social
0 likes, 0 repeats
@Mushi la analogia adecuada es el motor de combustión y el carro familiar. Extremadamente ineficiente en las ciudades y con externalidades enormes.
(DIR) Post #B8Syh5f2e95Y4MEKgK by Mushi@col.social
0 likes, 0 repeats
@galactus y quien dice que ese no lo podemos abolir tambien, si la china de mao lo hizo, por que nosotros no?
(DIR) Post #B8SyqwRhlMSwNvgoDo by galactus@col.social
0 likes, 0 repeats
@Mushi no estoy en contra de la regulación, pero la prohibición total sería como prohibir completamente el motor de combustión de manera general. Un error.
(DIR) Post #B8SywXeSrNqzDzKOmm by caycedo@col.social
0 likes, 0 repeats
@Mushi @galactusLa 1 es de las que me hace pensar que a mucha gente le molesta que no sea ambas cosas. Podría a modo de burla decir que un martillo no es tampoco ni lo uno ni lo otro porque la mesa tiene un clavo torcido. Mal martillado por el martillo.Muchos de los problemas que le endilgan a esa forma de programar son porque los equipos delegan del todo el trabajo. Es decir, cómo diablos tienes bugs que se pasaron a producción o bases de datos expuestas?
(DIR) Post #B8SywYEGiGUf124zaq by caycedo@col.social
0 likes, 0 repeats
@Mushi @galactus pero respondo que me parece sobre todo rápida porque puedo pasar a hacer pruebas muy rápido y a tener más tiempo para asegurar calidad.2. Cada día es peor. Y ahí entran los otros problemas que deben discutirse. Hasta hace poco un plan de 10 dólares era suficiente. Hoy te puedes gastar 20 en un par de funcionalidades pequeñas. Tengo colegas que incluso piensan en gastarse los planes de 100 dólares que a mí me parece demasiado.
(DIR) Post #B8SywYgd0pB8QzLdnU by caycedo@col.social
0 likes, 0 repeats
@Mushi @galactus 3. No quiero participar de eso. Por supuesto. Tampoco creería en la abolición. La tecnología ya está ahí afuera. En esto soy muy ignorante y nuestros gobernantes no saben ni para que es el mouse.
(DIR) Post #B8SywYu6CjxD6leOnI by Mushi@col.social
0 likes, 0 repeats
@caycedo @galactus entonces por que defender el proyecto, si no queremos participar de el?
(DIR) Post #B8SywZ69Tvaxi9I1a4 by galactus@col.social
0 likes, 0 repeats
@Mushi @caycedo porque tenemos que hacer mercado.
(DIR) Post #B8SzDtPnCJSRe4jsIq by galactus@col.social
0 likes, 0 repeats
@Mushi eso es cierto para muchas cosas. Alguien esta a favor de como se hace y se maneja la mineria? Estamos en contra de eso, o estamos en contra de usar recursos minerales?
(DIR) Post #B8SzcPOFxxO1lTi6wC by Mushi@col.social
0 likes, 0 repeats
@galactus yo creo que es un tema de participación y presión social. No me interesa realmente que haya regulación, seria bueno para cosas como psicosis, pero en general es mas un tema colo lo que ha pasado en holanda o incluso en bogota con la adopción de la bici como medio de transporte, es una vuelta cultural, que nace de decisiones personales de negarse a usar las tecnologias dañinas
(DIR) Post #B8SztQKVj4FjbN4W4O by Mushi@col.social
0 likes, 0 repeats
@galactus @caycedo pues pero es que la ecuación mas importante ahi es usted, si se deja de esa tecnologia ahora, luego va a ser mas dificil hacerle paro, y le abarataran el trabajo e igual le va a quedar mas dificil hacer mercado. Lea a Marcotte, que tiene ese librito hermoso "you deserve a tech union", los escritores y actores de hollywood le hicieron un paro provechoso a la IA, los programadores la entienden mejor y pueden negociar mejores terminos
(DIR) Post #B8T000JYqfv4wZlWEa by Mushi@col.social
0 likes, 0 repeats
@galactus pero es eso, un LLM no es un recurso mineral, es una mina de cielo abierto que usa fracking... porque si