Empresario, profesor universitario, especialista en desarrollo de negocio y cultura digital, Genís Roca es presidente de la Fundació PuntCat, fue fundador de la consultora RocaSalvatella, con actividad en distintos países, y miembro del equipo que puso en marcha la Universitat Oberta de Catalunya, la primera universidad virtual del mundo. Habituado a la creación o transformación de proyectos empresariales, culturales y sociales y arqueólogo de formación, cuenta con el reconocimiento de la economía, la ingeniería, el derecho, la enseñanza y la empresa. Elegido por El Mundo como uno de los 25 españoles más influyentes en Internet.
Las IAs tienen sesgos.
Todos los sistemas de información tienen sesgos y todos tendrán siempre sesgos. Lo interesante es ser consciente del sesgo que tienen.
¿Hay sesgos buenos y sesgos malos?
La palabra sesgo no es mala. Lo malo es no haberlo escogido o no ser más consciente de que lo he hecho. Pongo un ejemplo. Si soy un usuario catalanoparlante que busco en Google “escudella de Carn d’Olla”, me gustaría recibir la receta en catalán
Sin sesgos, quizás la recibiría en castellano o inglés…
Porque el 60-70% de los contenidos en Internet son en inglés. Este resultado natural necesito corregirlo con un sesgo. Sin sesgo, tampoco tendríamos resultados en castellano. O se mezclarían los de Ecuador, los de Perú, los de Chile, los de México…
Y la receta de lomo adobado saldría con cilantro…
Necesitamos sesgos para localizar los contenidos. El chino tiene un sesgo. El estadounidense tiene un sesgo. El suizo tiene un sesgo. El español tiene un sesgo. El catalán tiene un sesgo. Y eso me parece natural.
Si buscas en inglés, se te mezcla todo el mundo.
Y entonces, cuando buscas la receta de un chicken pie te salen recetas tailandesas. sudafricanas o argentinas. Sí, sí.
Los españoles hablan de la reconquista. Los árabes no…
Por eso no hay una única Wikipedia traducida a todos los idiomas. Por ejemplo, hay una Wikipedia francesa y una italiana. Porque la Guerra Mundial en Francia se explica de una manera y en Italia se explica de otra.
Entonces, ¿la vida es sesgo?
Yo soy historiador. Un periodista y un historiador ¿tienen que ser objetivos? Es todo lo contrario. Tienen que aceptar su subjetividad porque pedirle a un historiador que sea objetivo es negarle el contexto cultural en el que vive. Es imposible.
Pero el sesgo de las IA puede ser peligroso
Sí. Pero no podemos pretender que no haya. Lo de Trump, o del Brexit son sesgos. Y, de alguna forma, la lectura que hacemos de ellos, también. Cuando empezó la guerra de Ucrania, se nos dijo que bloquearíamos económicamente a Rusia, que su economía no aguantaría, que su ejército era débil y que habría un golpe de mano interno. Nada de esto ha pasado.
Cada cual escoge sus sesgos…
Hay gente que considera que un periódico o una televisión les informa bien y otros no. Que el mundo digital reproduzca estos esquemas es absolutamente comprensible. No me parece un error del mundo digital. A veces a lo digital le pedimos cosas que a lo físico jamás nos hubiésemos atrevido a pedir.
Y satanizamos lo digital cuando sólo es un espejo
Es una prolongación de lo que siempre hemos tenido. Yo lo que digo es que acepto el problema, no lo acepto solo en el ámbito digital. Lo acepto en la vida. El problema ya lo teníamos.
Elon Musk decía hace poco que los alemanes no han de pensar en el pasado.
A veces, se repite la historia. Y sobrevaloramos las situaciones donde se toman ciertas decisiones. Hay espacios de poder que pueden tomar decisiones que afectan a todo el mundo, Por ejemplo, se decide cerrar una fábrica de coches de Rumanía o elevar los ingresos de un país un 25%.
O se desinvierte en un fondo de pensiones de forma radical.
Tenemos tendencia a pensar que estas decisiones, que provocan impactos severos en los movimientos económicos o en la población y pueden cambiar cosas muy importantes, son fruto de un análisis, son algo muy profesional, científico, técnico, muy parametrizado.
¿Y no es así?
Creo que una gran cantidad de veces, se toman de una manera… qué quieres que te diga. Sospecho que a veces la realidad es mucho más simple, emocional, visceral de lo que nos imaginamos.
Pero quizás haya habido análisis en algún momento
Si. Ahora, hay un banco que ha vuelto a su lugar en Barcelona. Y eso ¿cómo ha ido? Pues yo qué sé. Puede haber sido después de un profundo estudio de pros y contras de tres meses de documentación escrita o tras un rompecabezas de alguien un viernes. Si supiéramos cómo se toman una buena cantidad de decisiones, nos podríamos llevar una sorpresa.
La IA china DeepSeek ¿es una oportunidad para Europa?
Falta confirmar si es cierto, porque a veces, los papers de China tienen un punto de realidad parcial. Según el paper que han publicado, se han gastado 6 millones de euros, pero antes podrían haber gastado 400. Tengo tendencia a pensar que realmente han conseguido una solución escalable, barata y abierta.
Quizás es una vía para construir una IA con los sesgos europeos
Ahora tenemos debilidad política, debilidad militar y debilidad económica, pero quizás podemos captar talento norteamericano desencantado con Trump, y yo agregaría talento chino porque aquí tenemos unos valores y una calidad de vida cultural y antigua, la mediterránea, atractiva para ellos.
O eso, o la irrelevancia
Podría ser la primera vez en dos mil años que Europa no diseña el sistema operativo del mundo. Le hemos dicho al mundo cómo se ha de organizar, qué está bien y qué está mal, los valores de la democracia. En África, en América del Sur, hemos escrito las reglas del juego y liderado las instituciones que ordenan el mundo como la ONU.
Siempre estábamos en la cocina donde se organizaba el mundo
Y tiene pinta de que ahora el mundo se organiza sin invitarnos a la cocina y que China y Estados Unidos están haciendo propuestas tecnológicas pasando de nuestra opinión y nosotros estamos reaccionando ofendidos, como si tuvieran un problema de principio.
Si el diseño del mundo pasa por la tecnología, parece que no será fácil recuperar un lugar en la mesa.
Según USA, la tutela es del mercado y según China, del estado
La propuesta americana se sustenta en empresas que operan mil millones de clientes. La propuesta china, en un estado que opera con mil millones de habitantes La propuesta europea se sustenta en mil millones de artículos científicos y debates sobre el tema. Pero no tenemos ninguna propuesta que traccione a mil millones de ciudadanos. Nuestro modelo es teórico.
¿E inviable?
La esperanza es que esta situación europea difícil, de riesgo y en inferioridad, impulsará una refundación, una creación. Creo que, hasta hoy, Europa siempre había pensado que Estados Unidos era un aliado, pero como ahora es menos colaborativo, puede obligarnos a ser más contundente en propuestas propias.
Se están tomando decisiones…
Ya discutiremos si son suficientes, si llegan tarde o no, pero algunas son importantes y benefician a España, como las que afectan al Barcelona Supercomputing Center. Podría ser que Europa vea que no puede seguir confiando su desarrollo tecnológico a terceros.
