Post B5YJ6ciKU9QLiPgImO by pes_maravilla@mstdn.social
(DIR) More posts by pes_maravilla@mstdn.social
(DIR) Post #B5YIGPdnqTR06zfToe by ccriss92@masto.es
0 likes, 0 repeats
De la gente que conozco que está flipando con la IA algunas personas (que se dedican a la informática) están muy a tope con lo que llaman agentes. Así que os quiero preguntar a quienes os dedicáis a ello, ya solo hablando de funcionalidad (sin entrar en otros temas, de los que ya estoy bastante al tanto), ¿de verdad es tan la hostia? Porque se habla de ello como si fuera la revolución del desarrollo, y no me termino de creer que sea así.
(DIR) Post #B5YIGPqv3hvUlfnxGC by pes_maravilla@mstdn.social
0 likes, 0 repeats
@ccriss92 un agente es una pieza de código que es capaz de utilizar otras piezas de código (tools/herramientas) para ejecutar una tarea. El quiz es que tú no le dices qué herramienta utilizar. Entendiendo el contexto utiliza una u otra. >>
(DIR) Post #B5YILUFE9lwZpzank8 by pes_maravilla@mstdn.social
0 likes, 0 repeats
@ccriss92 Por ejemplo: puedes crear un agente especializado en búsqueda de información que puede tener como herramienta una que busque información en la wikipedia u otra web especializada, otra herramienta que busque información en un documento propio, otra que haga un resumen de tal tipo, otra que traduzca etc. Estás herramientas también las programas tu, aunque hay muchas precocinadas>>
(DIR) Post #B5YIY73bg6tRghB4q0 by pes_maravilla@mstdn.social
0 likes, 0 repeats
@ccriss92 Ante una pregunta o proceso puede utilizar una u otra herramienta según "su criterio". Su criterio también está programado, pero también hay mucho precocinado. De este modo tienes un sistema que se adapta a la pregunta/la tarea que hay que ejecutar. >>
(DIR) Post #B5YIiS3QSycThl1U36 by pes_maravilla@mstdn.social
0 likes, 0 repeats
@ccriss92 Por supuesto hay que utilizar montones de procesos externos de validación y de observabilidad que es lo que la mayor parte de los que usan esto sin saber no tienen en cuenta. >>
(DIR) Post #B5YJ6ciKU9QLiPgImO by pes_maravilla@mstdn.social
0 likes, 0 repeats
@ccriss92 generalmente estos hype de IA vienen de la gente de marketing y ventas, que en absoluto comprenden de qué va nada y se limitan a repetir slogans de que todo es super vital y the next big thing. El agentic se empezó a poner de moda y a "ser lo más" hace ya 2 años. Tiene sus utilidades y pueden ser usados con modelos pequeños y en local, para pequeños procesos.No van a salvar el mundo ni tu compañía de nada.
(DIR) Post #B5YJH9E6SYFNRlYspE by minka@verse.averagedood.xyz
0 likes, 0 repeats
@ccriss92@masto.es A mí me mola el concepto (decirle al ordenador que haga cosas y las haga), pero es cierto que esa falta de control da un poco de miedo.Para accesibilidad debe ser la hostia (gente con pocos conocimientos o con poca capacidad de movimiento).
(DIR) Post #B5YJVJ4ucyaU3W0wOe by pes_maravilla@mstdn.social
0 likes, 0 repeats
@ccriss92 también para grandes procesos, claro, pero yo creo que está moda de tener una cosa que sirva para todo tiene tremendos costes (y errores) y dejará de ser algo que se busque.
(DIR) Post #B5YcniKxLx62jh0eFk by pes_maravilla@mstdn.social
0 likes, 0 repeats
@ccriss92 justo antes estaba leyendo un caso de esto. Imagina un agente que tiene un validador información interno de modo que si la respuesta no es buena repite el proceso hasta que lo sea.Imagina que un día se pone tiquismiquis, y mete el proceso en bucle durante horas. Imagina además que está usando un supermodelo tope de hype como el nuevo Claude. Ese bucle estúpido que le ha dado por hacer ese día puede suponer de repente cientos o miles de euros >
(DIR) Post #B5YdCe1aWWD4bJq0hc by pes_maravilla@mstdn.social
0 likes, 0 repeats
@ccriss92 por eso es muy importante añadir todos los "guardarraíles" necesarios imaginando que le vas a dar un machete a un niño pequeño. Y muuuchas pruebas. Con todo el hype de mierda las empresas te dicen que generes estos sistemas multiagente en 3 semanas, porque está chupado y lo hace mi hija de 9 años. Y aquí es donde vienen los sustos, las filtraciones de datos, los borrados de bases de datos etc. >
(DIR) Post #B5YdqjA0qcUa73tKL2 by pes_maravilla@mstdn.social
0 likes, 0 repeats
@ccriss92 y por supuesto, pueden ser utilizados con modelos pequeños y en local, pero las empresas (y todos nosotros) están sometidas a tantísimo marketing por parte de las empresas de la burbuja que la mayoría de ellas ni saben que existen otras alternativas éticas/sostenibles.Así que por supuesto todo esto aumenta en el problema, que a ver si estalla la puta burbuja de una puta vez.
(DIR) Post #B5YhqBqh6Ca6cDr2rw by jgg@qoto.org
0 likes, 0 repeats
@pes_maravilla @ccriss92 El gran peligro de usar estos agentes es que como se basan IA generativa, pueden alucinar y hacer burradas igual que cualquier IA generativa, pero como les das acceso a cosas como tu disco duro, tus redes sociales, herramientas corporativas, o lo que se te ocurra, si les da por hacer burradas pueden hacer un daño enorme.Es un poco como entrenar a un mono. Si le das acceso a un lápiz, lo peor que puede hacer es comérselo o pintarte las paredes. Si le das una ametralladora...También es cierto que hay un montón de gente que anda por ahí pidiéndole a los chats de IA que les hagan scripts y hasta aplicaciones enteras, ejecutándolos sin ni siquiera mirar el código. Están corriendo riesgos no tan distantes, y les importa un comino. Algún día nos vamos a llevar un susto gordo. Y la culpa será de un pringadillo que le pidió a la IA un script para borrar archivos antiguos y se cargó un servidor de archivos de Red Eléctrica o algo así.