A medida que la tecnología digital y la sociedad se entrelazan, resulta imperativo definir el tipo de sociedad que deseamos y, despúes, buscar la forma más óptima de aprovechar el potencial de la tecnología.
Durante décadas, Estados Unidos ha permitido la expansión de la tecnología digital sin tener en cuenta ninguna visión social. A lo largo de la historia, los estadounidenses han sido defensores de los derechos de las personas; sin embargo, han mostrado una inusual complacencia al aceptar como inevitable el impacto de la tecnología digital en nuestra economía, democracia, sistema de justicia penal y tejido social.
Esta tolerancia puede estar llegando a su fin. A principios de este año, las escuelas públicas de Seattle se convirtieron en el primer distrito escolar en demandar a las empresas de redes sociales, sosteniendo que Facebook, Instagram, Snapchat, TikTok y YouTube están contribuyendo a la creciente crisis de la salud mental entre los jóvenes de la nación y deben asumir responsabilidades.
Desde entonces, distritos escolares de todo el país han seguido su ejemplo. En marzo de 2023, el Condado de San Mateo en California -que incluye 23 distritos escolares en el corazón de Silicon Valley-, la Junta de Educación y el Superintendente de Escuelas del Condado demandaron a las empresas de redes sociales, alegando que utilizaban la inteligencia artificial y la tecnología de aprendizaje automático para crear plataformas adictivas que son perjudiciales para los jóvenes. Numerosos estudios respaldan estas inquietudes¹.
Aseguradoras, prestamistas, empleadores, hospitales y arrendadores están adoptando cada vez más algoritmos predictivos y la inteligencia artificial generativa (Gen AI), que es capaz de crear nuevos contenidos e ideas, a partir de instrucciones, para evaluar desde solicitudes de préstamos y alquileres hasta tratamientos médicos. Esta práctica conlleva importantes problemas de equidad e imparcialidad.
Según un estudio de Consumer Reports de 2021, la toma de decisiones por computadora está llevando a algunas compañías de seguros de automóvil a ofrecer presupuestos más altos a personas con menor nivel educativo y menor nivel de ingresos².
El año pasado, los senadores estadounidenses Ron Wyden (D-Ore.) y Cory Booker (D-N.J.), junto con la representante Yvette Clarke (D-N.Y.), presentaron la Ley de Responsabilidad Algorítmica de 2022. Esta ley tenía como objetivo solicitar que las empresas evalúen los impactos de los sistemas automatizados que utilizan y comercializan, así como ser más transparentes sobre cuándo y cómo utilizan estos sistemas. Sin embargo, el proyecto de ley se estancó en el comité.
Una legislación similar presentada en 2019 también se estancó. Sin embargo, este año, el líder de la mayoría del Senado, Chuck Schumer (demócrata de Nueva York), ha liderado un esfuerzo en el Senado para desarrollar un marco legislativo que "esboce un nuevo régimen regulatorio para la IA".
A la espera de indicaciones federales, varios Estados están considerando algún tipo de medidas de responsabilidad en materia de algoritmos. Por ejemplo, los organismos reguladores de seguros de Colorado y Connecticut están intentando limitar a las compañías de seguros que utilizan IA para determinar quién puede contratar un seguro y cuánto cuesta.
La legislación pendiente establecería un control más riguroso y continuo sobre la tecnología de IA, junto con una mayor transparencia en la comunicación con los clientes.
Con la inteligencia artificial dominando el discurso político, social y económico, es comprensible la preocupación por los posibles daños. Ahora que la IA generativa está en el centro de las conversaciones sobre tecnología digital, las personas se enfrentan a grandes afirmaciones de riesgo existencial, así como a preocupaciones reales sobre los prejuicios raciales y la desinformación.
Los legisladores y otros líderes lamentan con claridad no haber establecido un marco de regulación en torno a las redes sociales desde su aparición. Ahora, en medio de la rápida difusión de la IA generativa, es posible que consideren que la necesidad de regulación es aún más urgente.
De hecho, los líderes tecnológicos que desarrollan dichas herramientas están pidiendo la implementación de barreras. En mayo, más de 350 ejecutivos, investigadores e ingenieros que trabajan en IA firmaron la siguiente declaración: "Mitigar la amenaza de extinción que representa la IA debería ser una prioridad mundial junto con otros riesgos sociales a gran escala como las pandemias y la guerra nuclear" ³.
El enfoque generalizado en los riesgos de permitir que la tecnología y los expertos del sector determinen las normas abre un debate necesario sobre cómo lograr que sea la sociedad la que guíe a la tecnología y no al contrario. Omidyar Network ha respaldado durante mucho tiempo el poder y el potencial de la tecnología digital, invirtiendo más de 750 millones de dólares en nuevas empresas tecnológicas enfocadas en mejorar la calidad de vida de las personas.
En nuestra experiencia, se ha demostrado que un sistema tecnológico que beneficie a muchos y no solo a unos pocos debe mantener un equilibrio entre la innovación y la responsabilidad social, sin importar si la tecnología es utilizada por individuos, empresas o gobiernos.
Para dirigir el poder de la tecnología en beneficio de la sociedad, es esencial compartir una visión de lo que constituye una sociedad ideal. A pesar de la creciente polarización en el país, la mayoría de los estadounidenses están de acuerdo con los principios de una democracia representativa y valoran los tres derechos fundamentales establecidos en la Declaración de Independencia: la vida, la libertad y la búsqueda de la felicidad.
La libertad y las libertades individuales, como la libertad de expresión, religión y de reunión, junto con el derecho a la privacidad, son muy importantes para la mayoría de las personas en este país. También, se valora la igualdad para todos los ciudadanos, un sistema legal y justo, y una economía sólida. A su vez, existe un amplio consenso en cuanto a proporcionar a los niños un buen comienzo en la vida, garantizar el acceso a necesidades básicas como la atención médica, la alimentación y la vivienda, así como en cuidar el planeta.
Al construir un sistema tecnológico digital guiado conscientemente por estos valores, la sociedad tiene la oportunidad de promover sus intereses y preparar el futuro del sistema tecnológico digital para lograr mejores resultados.
Este esfuerzo colectivo requiere un profundo diálogo sobre qué tipo de sociedad desean los estadounidenses y cómo la tecnología digital se inserta en esa visión. Para comenzar esta conversación, sugiero cinco preguntas que deben considerar los filántropos, tecnólogos, empresarios, legisladores, académicos, defensores de los derechos humanos, líderes de movimientos, estudiantes, consumidores, inversionistas y todos aquellos interesados en el futuro del país.
1. ¿Qué supuestos, actitudes e ideas necesitamos cambiar para lograr un sistema tecnológico digital que impulse a la sociedad? |
La importancia de las ideas: están arraigadas en los valores y ejercen una influencia duradera. Suscitan conversaciones sobre lo que es posible y determinan qué políticas se mantienen y cuáles se revocan.
Las ideas que actualmente dirigen nuestra economía y, por ende, gran parte de nuestro sistema tecnológico digital, surgieron a finales de la década de 1970 entre un grupo relativamente reducido de académicos, políticos, líderes empresariales, personas adineradas y otras élites que introdujeron una serie de nuevas ideas en toda la sociedad.
La libertad individual se priorizó sobre el gobierno y los respectivos mercados "libres" por encima de todo lo demás. La eficiencia económica, el gobierno reducido, los impuestos bajos, los beneficios de los accionistas y la responsabilidad individual se convirtieron en la norma, excluyendo cualquier otro propósito de la economía.
Dado que la tecnología digital alcanzó la mayoría de edad durante el apogeo de esta filosofía de libre mercado, los legisladores han adoptado un enfoque de “dejar hacer” para regular (o no) a la tecnología. Esta postura ha perjudicado a los consumidores, las comunidades y la sociedad en su conjunto.
Por ejemplo, el enfoque centrado en el accionista, donde los CEO y los consejos de administración deben priorizar los intereses de los accionistas sobre cualquier otro, ha beneficiado a los propietarios de empresas tecnológicas y a sus inversionistas en perjuicio de los empleados, la democracia, el tejido social del país y el medio ambiente.
Además, el modelo económico actual fomenta la privatización de los beneficios y la socialización de los daños, mientras que evade cualquier responsabilidad significativa. Tanto las empresas de capital riesgo como las de capital privado invierten en empresas con el objetivo de maximizar sus rendimientos, incluso si esto implica reducir puestos de trabajo, pensiones o salarios. Cuando las empresas tienen éxito, estas empresas y sus inversionistas cosechan los beneficios.
Sin embargo, cuando las inversiones no cumplen con las expectativas, estas empresas socializan los costos, llevando a la quiebra o al fracaso a empresas que anteriormente estaban en buena posición o a prometedoras empresas emergentes.
La sociedad no debe aceptar la realidad actual como algo inevitable; en lugar de eso, debe tomar la oportunidad de promover un nuevo modelo económico que incorpore el sector de la tecnología digital y coloque en primer plano el bienestar individual, comunitario y social. El rediseño del sistema tecnológico del país en favor de la sociedad debe comenzar con el reemplazo de ideas obsoletas y, en muchos casos, desacreditadas, a cambio de un nuevo paradigma que esté en sintonía con las realidades del mundo actual.
El informe de Omidyar Network para 2020, titulado “Our Call to Reimagine Capitalism in America” (Nuestra petición para rediseñar el capitalismo en Estados Unidos), destaca las cinco áreas económicas principales que necesitan atención para establecer un nuevo paradigma económico con base en el bienestar individual, comunitario y social, y que garantice una participación significativa para todos.
Al rediseñar el sistema de tecnología digital para promover una sociedad más equitativa, inclusiva y resiliente, es crucial analizar las obligaciones de las empresas de tecnología para que contribuyan con algo más y no centrarse únicamente en obtener y maximizar beneficios. Por ejemplo, un sistema tecnológico digital que esté alineado con los ideales estadounidenses de autonomía y libertad debe enfocarse en priorizar el manejo y la protección de los datos personales.
Actualmente, los consumidores no cuentan con los medios para saber dónde se venden o comparten sus datos, los cuales son tratados como mercancía por los modelos empresariales, ofreciéndolos al mejor postor. Esta propuesta de valor desigual pasa por alto a quienes generan estos datos, es decir, a todos nosotros, y resalta el poder que las empresas tienen sobre la información de los estadounidenses. El consentimiento, las cookies y las políticas de privacidad no solucionan este problema. Aquellos que eligen no participar en el sistema son penalizados de manera injusta al ser excluidos de participar plenamente en el mundo digital del cual dependen nuestras vidas. El sistema engaña, obliga y explota a los ciudadanos.
Al igual que muchos de los sistemas actuales, la tecnología digital fue moldeada por un reducido grupo de voces, principalmente de hombres blancos heterosexuales. En la actualidad, el 80% de los ejecutivos del sector son hombres y el 82% blancos, mientras que solo el 3% son latinos y el 2% de raza negra.
Adoptar una nueva mentalidad económica y modelos empresariales que no sean de explotación permite redefinir la naturaleza de los datos y orientar la forma en que se obtiene su valor económico y cómo se comparten en favor de un enfoque más justo y equitativo. Más que concebir los datos como una propiedad, la sociedad debe pensar en ellos como un bien público que debe utilizarse en beneficio del interés común y así ofrecer un mayor beneficio a la sociedad.
Worker Info Exchange, una organización sin fines de lucro dedicada a ayudar a los trabajadores a acceder a los datos que se recolectan de ellos en el trabajo y a obtener información al respecto, ya está implementando esta visión. Por ejemplo, conductores de Uber y Lyft, repartidores y otros trabajadores de la economía colaborativa pueden utilizar este servicio en línea para compartir sus datos y, así, ejercer presión colectiva en busca de salarios justos y mejores condiciones laborales. Con el objetivo de rediseñar el sistema tecnológico digital del país en beneficio de la sociedad, los estadounidenses deben seguir estudiando los beneficios, daños y límites de los datos.
Una opción inicial podría encontrarse en el extranjero. La Unión Europea ha exhibido un liderazgo destacado al promulgar la Ley de Servicios Digitales (DSA, por sus siglas en inglés) y la Ley de Mercados Digitales (DMA, por sus siglas en inglés), estableciendo así un espacio digital más seguro que salvaguarde los derechos fundamentales de los usuarios y, simultáneamente, defina condiciones equitativas para las empresas.
La DSA se enfoca en regular a los intermediarios en línea —como las plataformas de redes sociales y los proveedores de servicios digitales— con el objetivo de salvaguardar los derechos fundamentales de los usuarios, tales como la libertad de expresión y el acceso a la información, al mismo tiempo que busca disminuir la presencia de contenidos ilegales, la propagación de desinformación y el riesgo asociado a otras actividades perjudiciales en la red.
Esta regulación se centra en los nuevos requisitos de transparencia y en la mejora de la capacitación de los usuarios; por ejemplo, a través de mecanismos que faciliten la denuncia de contenidos ilegales. La DMA incorpora normativas diseñadas para promover la competencia y asegurar un acceso equitativo a los mercados digitales. Esto se logra al prohibir que las plataformas con un considerable poder de mercado, como Amazon, privilegien sus propios productos o servicios sobre los de la competencia, o utilicen los datos recolectados en sus plataformas para obtener una ventaja injusta en el mercado.
La DMA incorpora normativas diseñadas para promover la competencia y asegurar un acceso equitativo a los mercados digitales. Esto se logra al prohibir que las plataformas con un considerable poder de mercado, como Amazon, privilegien sus propios productos o servicios sobre los de la competencia, o utilicen los datos recolectados en sus plataformas para obtener una ventaja injusta en el mercado.
2. ¿De qué manera la participación inclusiva puede fortalecer un sistema tecnológico digital?
"Confiamos mutuamente nuestras vidas, nuestras fortunas y nuestro sagrado honor", reza la frase final de la Declaración de Independencia de Estados Unidos, afirmando que el país depende de las contribuciones de todos los estadounidenses. En una economía más democrática, tanto trabajadores, consumidores, pequeñas empresas como familias tienen igual voz y oportunidad de progresar.
Al igual que muchos de los sistemas actuales, la tecnología digital fue moldeada por un reducido grupo de voces, principalmente de hombres blancos heterosexuales. En la actualidad, el 80% de los ejecutivos del sector son hombres y el 82% blancos, mientras que solo el 3% son latinos y el 2% de raza negra. Es poca la representación de mujeres, personas de color, miembros del colectivo LGBTQIA+, jóvenes y personas con discapacidad y necesidades especiales, tanto en roles de creador tecnológico como de usuarios.
La representación inadecuada y el muestreo insuficiente de estos grupos en los datos que dan forma a la IA resultan en una tecnología optimizada para una porción limitada del mundo, lo que potencialmente intensifica los sesgos. Un ejemplo de esto es el programa de reconocimiento facial utilizado por las fuerzas policiales para identificar sospechosos de manera rápida, el cual muestra un mejor rendimiento con rostros masculinos que femeninos, así como con personas de piel clara en comparación con las de piel más oscura.
La tecnología digital puede contribuir a una sociedad justa y equitativa cuando aquellos que la diseñan, financian, crean, gobiernan y desarrollan son el reflejo de la diversidad de la sociedad a la que intentan beneficiar. Algunos inversionistas, como Kapor Capital, han respaldado iniciativas destinadas a diversificar la fuerza laboral tecnológica con un enfoque en los intereses sociales, no solo comerciales.
Además, una coalición formada por fundaciones filantrópicas, centros de pensamiento, universidades y colegios comunitarios está realizando importantes inversiones en tecnología orientada al interés público. Uno de los aspectos del trabajo de la coalición es atraer a más personas de raza negra al sector tecnológico, involucrando en este esfuerzo a instituciones de educación superior y universidades con una población estudiantil mayoritariamente negra como la Prairie View A&M University y la Howard University.
Por su parte, asociaciones civiles como Black & Brown Founders colaboran con inversionistas en tecnología para diversificar la creación de empresas de este sector. El sector de la tecnología digital tiene la capacidad y la responsabilidad de implementar prácticas de contratación intencionales, obligaciones contractuales y nuevas normas, además de atender a las peticiones de cambio de los consumidores.
La inclusión de una gama más amplia y diversa de individuos en todos los niveles del sistema (tales como organismos de control, reguladores, legisladores y organizaciones internacionales) asegurará que las decisiones respecto al futuro de la tecnología reflejen los intereses, necesidades y contribuciones de todas los grupos de interés.
3. ¿De qué manera la ética y la transparencia pueden mejorar la capacidad de la tecnología digital para beneficiar a la sociedad?
Para que la tecnología digital esté al servicio de la sociedad debe adherirse a códigos éticos y normativas claras con base en los valores sociales compartidos.
Como me dijo una vez Gene Kimmelman, ex asesor principal del Departamento de Justicia de EE.UU. y expresidente de Public Knowledge, una organización defensora de la apertura de Internet: “Constantemente intentamos modificar las prácticas del mercado y las normativas para ajustar la nueva tecnología a las normas anteriores (por ejemplo, criptomonedas, tecnología financiera), en lugar de preguntarnos si esta nueva tecnología plantea cuestiones éticas tan profundas que tendríamos que decidir primero si debería ser utilizada”. Simplemente, no disponemos de un “bloqueo nuclear” o una solución instantánea para revertir este proceso.
Durante los siglos XIX y XX, numerosos avances revolucionarios en campos como la biomedicina, la genética, la atención médica, la agricultura y los alimentos modificados genéticamente se han logrado gracias a investigaciones pioneras que, a su vez, están ligadas a un marco ético. Durante décadas, el mundo académico ha estado inmerso en un debate sobre la ética moral de la energía nuclear. El potencial de esta fuente energética para mitigar el impacto del cambio climático ha generado un diálogo completamente nuevo sobre la existencia de un nivel "moralmente aceptable" de producción de energía nuclear. Sin embargo, cuando se trata de un código moral, la tecnología digital no debería quedar excluida.
Los sesgos en la inteligencia artificial, así como la capacidad de la IA generativa para evolucionar de manera impredecible, destacan la urgencia de establecer un marco teórico que oriente a los sistemas digitales. Los algoritmos desempeñan un papel fundamental al informar, respaldar y regular una amplia gama de sectores en la sociedad actual, lo que confiere a la tecnología un impacto económico y social de gran magnitud.
Por ejemplo, los jueces pueden utilizar índices de riesgo de reincidencia obtenidos mediante algoritmos procesados durante décadas de registros de antecedentes penales para tomar decisiones sobre finanzas. Del mismo modo, los prestamistas hipotecarios pueden fijar los tipos de interés con base en los riesgos de morosidad pronosticados por algoritmos. Además, los servicios sociales públicos pueden recurrir al apoyo de algoritmos para tomar decisiones sobre apoyos financieros.⁴ Un sistema tecnológico digital que aspire a promover una sociedad justa y equitativa debe eliminar los sesgos algorítmicos en todas sus formas, ya sean preexistentes, técnicos o emergentes.
Los marcos éticos son igualmente cruciales para enfrentar nuevos desafíos relacionados con otras tecnologías digitales. Por ejemplo, el software de código abierto, que constituye un pilar fundamental de Internet, es utilizado en gran parte de nuestras infraestructuras críticas, tales como redes eléctricas, hospitales, sistemas de comunicación y transporte, en dispositivos como teléfonos, automóviles y aviones, que son esenciales para el comercio y la industria.
El software de código abierto posee el poder de conectar comunidades, impulsar la innovación y fomentar la colaboración. Además, contribuye a la transparencia y la responsabilidad en el sistema. En el software de código abierto, se elimina la posibilidad de controlar lo que otros hacen con el código original. Esto significa que cualquiera puede utilizarlo, modificarlo o distribuirlo para crear nuevas posibilidades tecnológicas sin mayores restricciones.
La propia naturaleza de su apertura, aunque fomenta la innovación, también conlleva riesgos y vulnerabilidades que deben abordarse. Existe la posibilidad de que alguien con malas intenciones utilice ese código con fines nocivos o añada un código que comprometa la seguridad y estabilidad del sistema. Las organizaciones autónomas descentralizadas (DAO, por sus siglas en inglés) son entidades dirigidas por la comunidad, y sin una autoridad central, que buscan respetar los deseos de los grupos de interés sin estar controladas por ninguna de las partes. Estas organizaciones son la base de gran parte de la criptomoneda y las innovaciones de la Web 3.0 que están surgiendo en la actualidad.
Conforme continúan ganando popularidad, es fundamental establecer directrices éticas para asegurar la confianza del público y orientar la gestión de su reputación. Es fundamental abordar las consideraciones éticas relacionadas con las tecnologías de voz y biométricas, como el consentimiento, el uso de datos y los posibles sesgos, para evitar el uso indebido o la discriminación.
Las directrices éticas también podrían asegurar que el cifrado, crucial para proteger los datos, no impida el acceso legítimo de las autoridades competentes. Algunas empresas de tecnología cuentan con especialistas en ética y diseñadores centrados en el ser humano. Esto resulta alentador y hay que celebrar el enfoque que adoptan tales empresas. Sin embargo, es importante incentivar a estos especialistas para que realicen evaluaciones honestas y estén capacitados para reconocer los posibles riesgos.
La mayoría de los desarrolladores todavía tienen una perspectiva limitada que se centra en el producto en lugar de considerar un marco más amplio que aborde los efectos de una tecnología específica en el mundo real. Para promover una reflexión más profunda entre los trabajadores del sector tecnológico, y que consideren cuestiones complejas, anticipen las implicaciones de sus productos y realicen correcciones cuando sea necesario, Omidyar Network, en colaboración con numerosos socios, ha desarrollado la “Guía del Explorador Ético”.
Dicha guía está disponible en línea e incluye una serie de herramientas y recursos para modificar las prácticas internas, además de lecciones aprendidas de las experiencias de otras empresas. Está concebida para ayudar a diseñadores, ingenieros, jefes de producto, socios fundadores y otros profesionales a integrar valores éticos en sus productos. El gobierno puede contribuir a este objetivo estableciendo normas y comportamientos éticos y dignos de confianza que conduzcan a resultados superiores.
Organizaciones civiles como Trust & Safety Professional Association, el Integrity Institute, Whistleblower Aid, Coworker.org y la Algorithmic Justice League, junto con instituciones profesionales como el Institute of Electrical and Electronics Engineers, también tienen un papel crucial en la formulación de nuevas normas éticas. Estos marcos éticos deben considerar el impacto indirecto de las tecnologías digitales en las personas y las comunidades. Por ejemplo, la automatización y la inteligencia artificial pueden reemplazar a los trabajadores, los centros de datos y las criptomonedas pueden tener efectos negativos en el medio ambiente, y el intercambio y la venta de datos personales pueden erosionar la privacidad y la confianza.
Los consumidores también tienen un papel crucial en la definición y exigencia de un código ético más sólido. Dado que los nativos digitales están liderando el camino, es crucial comenzar a enseñar a los niños desde las aulas sobre la necesidad de considerar los aspectos éticos y tomar decisiones normativas que guíen la tecnología digital hacia una sociedad ideal. Con el tiempo, esta nueva perspectiva tiene el potencial de impulsar la demanda generalizada de un cambio drástico respecto a la gestión de la tecnología digital.
Una mayor transparencia es esencial para que las normas éticas se adopten de manera generalizada. Otras industrias, como la moda y la alimentación, ofrecen modelos para satisfacer las demandas de mayor transparencia. Ante la creciente preocupación por el impacto medioambiental y social de la industria de la moda rápida, muchas marcas están optando por divulgar información sobre sus cadenas de suministro, procesos de producción y prácticas de abastecimiento.
La industria alimentaria también ha trabajado en mejorar la transparencia al proporcionar información sobre la procedencia de los ingredientes y las implicaciones medioambientales y sociales en toda la cadena de suministro. Los consumidores pueden someter a las empresas de tecnología digital a un escrutinio similar al exigir información sobre cómo se recopilan, utilizan, almacenan y comparten sus datos personales. Consumer Reports creó Permission Slip para ayudar a los consumidores a comprender y controlar los datos que recopilan las empresas. La aplicación proporciona información sobre las actividades de las empresas en materia de datos y permite a los usuarios enviar solicitudes a las empresas para que eliminen o dejen de vender sus datos personales.
Ilustración de Brian Stauffer
El debate popular sobre la IA generativa se ha centrado en la transparencia y las auditorías como soluciones ante los posibles daños a la sociedad. Sin embargo, los desarrolladores de grandes modelos lingüísticos (LLM por sus siglas en inglés) se resisten y aseguran que es muy difícil compartir de qué manera toman decisiones sus modelos de lenguaje. Tales afirmaciones carecen de credibilidad.
Después de todo, ya existen tecnologías que permiten a las empresas privadas compartir datos con el gobierno. Un ejemplo es la Comisión del Mercado de Valores de EE.UU., que utiliza EDGAR para compartir los datos financieros. Este portal permite a cualquier persona acceder y descargar de forma gratuita las declaraciones de registro, informes periódicos y otros formularios de las empresas.
Asimismo, organizaciones sin fines de lucro como OpenMined están desarrollando la infraestructura técnica necesaria para lograr una transparencia total. Sin embargo, para que esta norma se haga realidad a gran escala, la sociedad debe exigirla. La transparencia es fundamental para abordar numerosas cuestiones técnicas como los algoritmos, los datos y la privacidad, así como para actividades empresariales y laborales como los derechos humanos, la manufactura, las adquisiciones, la contratación y consideraciones sobre diversidad, equidad e inclusión, y los daños e incumplimientos.
Mejorar la transparencia también implica un mayor uso del código fuente abierto, una mayor interoperabilidad y el desarrollo de nuevos protocolos que promuevan intrínsecamente el intercambio de conocimientos entre los diferentes actores. Por ejemplo, esto podría incluir la creación de sistemas que permitan a los ciudadanos ver dónde se están vendiendo o compartiendo sus datos. Facilitar más datos a investigadores competentes del mundo académico, medios de comunicación, sociedad civil y organismos públicos, sin revelar información personal identificable, permitirá una comprensión más completa de las tendencias actuales. Esto servirá para fundamentar las medidas futuras, proteger el interés público y exigir responsabilidades a quien corresponda.
En 2022, Demos, un grupo de reflexión progresista de normas públicas y beneficiario de Omidyar Network, publicó "The Open Road", un reporte clave sobre la creación de sistemas de código abierto sostenibles. El reporte concluye que “más apertura conduce a más innovación”. Además, señala que “mayor transparencia implica un escrutinio más riguroso, lo que a su vez resulta en una menor cantidad de vulnerabilidades de seguridad que pueden pasar desapercibidas”.
La apertura promueve el desarrollo de "tecnología sólida", que incluye protecciones de privacidad, seguridad y otros aspectos en su diseño. ⁵ La apertura revela las deficiencias en el código y el diseño, lo que lleva a soluciones y aplicaciones más robustas. En resumen, la apertura impulsa la innovación y puede contribuir a un sistema tecnológico digital que promueva la equidad y la justicia al establecer controles y equilibrios para los consumidores.
4. ¿De qué manera pueden las normativas guiar el rediseño del sistema tecnológico digital?
Los legisladores electos tienen la responsabilidad de preservar la democracia del país y salvaguardar el bienestar de sus electores. En este sentido, contribuyen a guiar la transición hacia un sistema tecnológico digital más responsable. En la actualidad, muchos legisladores están comprometidos de un modo financiero con grupos de presión tecnológicos o se ven influenciados por ellos. Las cinco principales empresas de tecnología (Apple, Amazon, Microsoft, Alphabet y Meta) gastan aproximadamente 69 millones de dólares al año en grupos de presión en Estados Unidos.
Sin una política de competencia sustancial, las cinco grandes empresas de tecnología tenían en agosto de 2022 un valor de mercado cercano a los 8.5 billones de dólares, una cifra que supera el tamaño de la economía de Alemania o Japón. Esta situación genera una concentración de poder empresarial peligrosa y sin control, lo que limita la innovación e impide que los legisladores responsabilicen a la tecnología digital por las necesidades sociales. Además, dificulta que las empresas cuenten con incentivos para respaldar los valores nacionales. ⁶
La respuesta no es enfrentar la innovación contra la regulación. Un sistema tecnológico digital que respalde los ideales de una sociedad democrática requiere ambas. Además, la regulación no es necesariamente un obstáculo para el crecimiento o la innovación. Un ejemplo claro es el sector bancario, uno de los más regulados. A pesar de ello, la tecnología financiera ha logrado cumplir con las normativas establecidas y, al mismo tiempo, se sitúa entre las categorías de inversión de capital riesgo de mayor crecimiento y volumen.
Otro sector altamente regulado es el de la biomedicina. A pesar de esto, se logró desarrollar y poner en marcha un nuevo tipo de vacunas COVID basadas en ARNm en menos de nueve meses, lo que ha sido crucial para salvar vidas. Con mejores incentivos y regulación, las empresas de tecnología digital pueden liberar la innovación en modelos de negocio, productos y características competitivas, lo que promueve y avanza el bien común.
A medida que las agencias federales, el Congreso y la Casa Blanca trabajan para determinar el enfoque regulatorio más efectivo, aún no se ha definido claramente dónde debería residir ese organismo regulador ni cómo debería estar estructurado. Un análisis constante de estas cuestiones complejas y entrelazadas podría resultar en mandatos más estrictos y una autoridad más definida para los organismos existentes como la Comisión Federal de Comercio. Además, este análisis podría incluso conducir a la creación de nuevas instituciones con mandatos y competencias actualizadas.
Durante la Cumbre "IA para el Bien" de las Naciones Unidas, celebrada en julio, Gary Marcus, Karen Bakker y Anka Reuel, investigadores centrados en diversos aspectos del impacto de la IA en la sociedad, presentaron el Centro para el Avance de la IA Confiable (CATAI), una nueva iniciativa sobre la gestión de la IA. Omidyar Network apoya financieramente esta iniciativa. Al producir investigaciones básicas y aplicadas sobre nuevas formas de IA más confiables, CATAI tiene como objetivo informar y desarrollar nuevos modelos de gobernanza mundial de la IA.
Al analizar las medidas regulatorias, los legisladores deben ser capaces de evaluar la importancia tecnológica para el sistema, su alcance, su evolución y los posibles impactos en el mundo real. Es posible que deban ajustar o revisar esquemas regulatorios previos, o adoptar nuevas teorías y esquemas para considerar, por ejemplo, modelos de negocio que no impliquen un precio explícito para el consumidor. Por ejemplo, Facebook o Google Search ofrecen sus productos de manera “gratuita”, pero aun asi deben rendir cuentas para evitar daños a los consumidores y la concentración del mercado.
El modelo actual de capital riesgo privilegia la adquisición de usuarios a fin de alimentar el crecimiento necesario para que la inversión sea rentable. Este modelo hace que las empresas respaldadas por capital de riesgo asuman más responsabilidades ante sus inversionistas que ante los usuarios, las comunidades, los trabajadores, los mercados y la sociedad en general.
En realidad, los legisladores ya están dando pasos importantes. Durante los últimos meses, el gobierno federal ha intensificado sus esfuerzos para regular la tecnología digital, y muchas de estas medidas tienen como objetivo contribuir a una sociedad más saludable y dinámica. Varios proyectos de ley en la Cámara de Representantes y el Senado tienen como objetivo mejorar la seguridad de los niños en la tecnología digital, incluyendo medidas destinadas a reducir los riesgos asociados con las plataformas de medios sociales como el ciberacoso y la publicidad dirigida.
El año pasado, un proyecto de ley aprobado por la Comisión de Energía y Comercio de la Cámara de Representantes buscaba proteger la privacidad de los consumidores al establecer límites más estrictos en la recopilación de datos. Aunque no se llegó a tramitar en el Senado antes de que finalizara la legislatura, la medida contó con un sólido respaldo bipartidista. Finalmente, en mayo, el gobierno de Biden adoptó lo que denominó "acciones que promoverán aún más la innovación responsable estadounidense en materia de inteligencia artificial (IA) y que protegerán los derechos y la seguridad de las personas".
Algunas de estas medidas incluyen el financiamiento de 140 millones de dólares para establecer siete nuevos institutos nacionales de investigación sobre inteligencia artificial (IA). Estos institutos tienen como objetivo fomentar la colaboración entre instituciones de educación superior, organismos federales, la industria y otros actores para asegurar que los avances en IA sean “éticos, confiables, responsables y al servicio del bien público”. Aunque con cierto retraso, los Estados también está tomando medidas en el ámbito de la tecnología digital. El año pasado, con el fin de proteger a los menores, California promulgó la ley California Age-Appropriate Design Code Act (Ley de Códigos de Diseño Apropiados para la edad).
La medida obliga a las plataformas en línea a tener en cuenta los intereses de los menores y a establecer por defecto parámetros de privacidad y seguridad para proteger la salud mental y física, así como el bienestar de los niños. Son muchos los Estados que están intentando seguir su ejemplo. Dado que hay más de $600 millones de menores en línea, los creadores de tecnología deben diseñar sus productos teniendo en cuenta la seguridad y la privacidad de los niños. Asimismo, los legisladores de todos los niveles deben promulgar medidas que garanticen la rendición de cuentas en este ámbito.
Además, cerca de 20 asambleas legislativas estatales han presentado una amplia iniciativa de ley sobre la privacidad de los consumidores. En la mayoría de estos proyectos de ley se otorga a los consumidores la posibilidad de acceder a su información en línea, eliminarla o corregirla. También se les permite optar por no recibir ofertas comerciales ni publicidad dirigida, o bien se les pide que den su consentimiento para el procesamiento de su información confidencial. Aunque la tecnología está en constante cambio y evolución, nuestras normas y reglamentos deben anticiparse a lo que está por venir, en lugar de simplemente intentar ponerse al día.
5. ¿Cuáles modelos financieros podrían servir como incentivo para lograr un sistema tecnológico digital saludable?
Las grandes revoluciones tecnológicas suelen ir de la mano de revoluciones financieras. La tecnología digital no es la excepción. El capital de riesgo, con su nueva clase de inversionistas, sistemas e incentivos para impulsar el desarrollo y el avance de la tecnología digital, está firmemente arraigado. Lo anterior ha cultivado una cultura y un mecanismo de innovación e inversión que fortalecen y estimulan el sector de la tecnología digital. En 2022, los fondos de capital riesgo canalizaron 1,370 millones de dólares en 78 operaciones de IA generativa, casi igualando la cantidad invertida en IA generativa durante los cinco años anteriores combinados. ⁷
Sin embargo, existen puntos negativos detrás de toda esta revolución. El modelo y la cultura de financiamiento actual privilegian el crecimiento a toda costa para satisfacer a los socios, cuyo objetivo principal es obtener beneficios inmediatos. Como señala el ex inversionista de capital riesgo Evan Armstrong: “hemos llegado a un punto dentro del ecosistema de las startups en el que, para los grandes fondos de capital de riesgo, el hecho de que una startup alcance un valor de mil millones de dólares carece de sentido”.
Para lograr una rentabilidad de entre 3 y 5 veces la inversión, una firma de capital de riesgo busca asociarse con empresas emergentes que puedan cotizar en bolsa por encima de los 50 mil millones de dólares. …Sin embargo, dentro del universo de empresas tecnológicas públicas, solo hay 48 valoradas en más de 50.000 millones de dólares. ⁸ En consecuencia, los empresarios se ven obligados a asumir riesgos cada vez mayores para lograr que sus productos ocupen una posición dominante en el mercado.
El predominio de los accionistas ha dejado a las sociedades de capital de riesgo sin incentivos para considerar las posibles consecuencias sociales. Además, el modelo actual de capital de riesgo privilegia la adquisición de usuarios para alimentar el crecimiento necesario a fin de que la inversión sea rentable. Los inversionistas están dispuestos a subsidiar las pérdidas con tal de debilitar a las empresas competidoras, las cuales financian su crecimiento a partir de sus ingresos y ganancias operativas. Este modelo hace que las empresas respaldadas por capital de riesgo sean más responsables ante sus inversionistas que ante los usuarios, las comunidades, los trabajadores, los mercados y la sociedad en general. ⁹
Es urgente crear nuevos modelos de financiamiento privado con horizontes más largos, que eliminen la presión de obtener beneficios inmediatos y consideren factores que van más allá de la entrega de resultados. Los socios limitados de las sociedades de capital de riesgo, como los fondos de pensiones de los trabajadores, las dotaciones universitarias y los fondos soberanos, representan intereses públicos más amplios. Estos socios tienen la capacidad y la responsabilidad de influir en las sociedades de capital de riesgo para que adopten enfoques más responsables.
El sector del financiamiento está empezando a introducir innovaciones en los modelos de ingresos, las estructuras de propiedad y la asignación de rendimientos y dividendos. Sin embargo, estas prácticas son grandes excepciones y aún no se consideran la norma. Bryce Roberts, un inversionista de capital de riesgo, fundó Indie.vc con el respaldo de patrocinadores como Pierre Omidyar, el fundador de eBay y cofundador de Omidyat Network. Indie.vc representa un nuevo enfoque en el sector del financiamiento.
Indie.vc, en lugar de proporcionar grandes cantidades de fondos iniciales para apoyar en el lanzamiento de una idea, optó por invertir cantidades más modestas en empresas emergentes ya establecidas y con potencial futuro. Esto incluyó varias empresas ubicadas en áreas geográficas y demográficas menos conocidas. Además, inicialmente, Indie.vc no tomó participación en el capital de estas empresas. La intención fue permitir que los emprendedores que ya habían lanzado sus empresas se concentraran en hacerlas crecer, en lugar de obsesionarse con generar ganancias para sus inversionistas. Sin embargo, Indie.vc no logró atraer el apoyo institucional necesario para su crecimiento.
Después de anunciar el cierre de la empresa en Medium, Roberts escribió: “A medida que hemos intentado expandir nuestras inversiones e ideas dentro de una 'Economía Indie', no hemos encontrado el mismo nivel de entusiasmo por parte del mercado institucional de los socios limitados”. Manteniéndose optimista, también señaló: “No me cabe duda de que en 4-5 años veremos a nuestras empresas Indie arrojando resultados comparables a los de nuestros fondos anteriores, los cuales han generado múltiplos netos por encima de 5x para nuestros socios limitados”.
Establecer modelos de financiamiento más pacientes respaldará a los tecnólogos que utilicen los principios necesarios para mejorar el sistema tecnológico digital, tales como la salvaguarda de los derechos, la promoción de la justicia y la creación de tecnología para el bien social.
Es posible lograr un mundo mejor
La tecnología digital, y ahora también la inteligencia artificial generativa, constituyen un hito singular en la historia de los avances tecnológicos. Su crecimiento ha sido rápido y su influencia se extiende por toda la sociedad. Numerosas funciones sociales fundamentales dependen de ella. Además, cuenta con la capacidad de autoaprendizaje. Actualmente, los mecanismos internos y la complejidad de la tecnología digital superan la comprensión de las masas. Estos atributos, junto con la ansiedad relacionada con los riesgos existenciales, generan una sensación de inevitabilidad como si no se pudiera hacer nada para cambiar su curso.
Debemos contrarrestar esta narrativa. Los estadounidenses tienen la capacidad de dirigir, moldear y gobernar la tecnología digital para beneficio de una sociedad democrática. Para lograrlo, debemos cambiar nuestra perspectiva sobre el éxito, dejando de lado la obsesión por la velocidad y la escala de los avances tecnológicos, y enfocarnos en cómo la tecnología digital puede contribuir a promover una visión positiva de la sociedad.
- Notas
-
1 Bozzola, E., et al. (2022). “El uso de las redes sociales en niños y adolescentes: análisis de los riesgos potenciales” (The Use of Social Media in Children and Adolescents: Scoping Review on the Potential Risks). International Journal of Environmental Research and Public Health, vol. 19, no. 16.
2 Waddell, K. (2021, 28 de enero). "¿Por qué tu educación y tu trabajo podrían significar que estás pagando demasiado por tu seguro de coche?" (Why Your Education and Job Could Mean You're Paying Too Much for Car Insurance). Consumer Reports.
3 Centro para la Seguridad de la IA. “Declaración sobre el riesgo de la IA” (Statement on AI Risk).
4 Gerdon, F., et al. (2022). "Impacto social de la toma de decisiones algorítmica: un programa de investigación para las ciencias sociales" (Social Impacts of Algorithmic Decision-Making: A Research Agenda for the Social Sciences). Big Data & Society, enero-junio.
5 Krasodomski-Jones, A., et al. (2022, enero). "El camino abierto: cómo construir un sistema de infraestructura abierta sostenible" (The Open Road: How to Build a Sustainable Open Infrastructure System). Demos.
6 Bose, N. (2020, 7 de octubre). "Un incisivo informe del Congreso sugiere grandes problemas para las grandes tecnológicas si gana Biden" (Scathing Congressional Report Suggests Big Trouble for Big Tech If Biden Wins). Reuters.
7 Temkin, M. (2022, 23 de diciembre). "Los inversionistas de capital riesgo intentan descifrar el 'ruido' de la IA generativa" (VCs Try to Parse through the 'Noise' of Generative AI). Pitchbook
8 Armstrong, E. (2022, 27 de octubre). "El capital riesgo está listo para la disrupción" (Venture Capital Is Ripe for Disruption). Every.
9 Dash, A. (2018, 14 de marzo). "12 cosas que todo el mundo debería entender sobre la tecnología" (12 Things Everyone Should Understand About Tech). Medium
|
Autor original:
- Mike Kubzansky es Director General de Omidyar Network.
|
Este artículo es contenido original de la Revista Stanford Social Innovation Review publicado en la edición otoño 2023.
Traducción del artículo Reimagining Our High-Tech World por Jorge Treviño.
|
Recomendado para ti
|
Tecnología para el bien común
|
¿Renovar el gobierno y el proceso legislativo con tecnología digital del siglo XXI? Tara Dawson McGuinness y Hana Schank dicen SÍ en el libro "Power to the Public" (Poder para la gente) |
|
Tecnología en la granja
|
Outgrow fusiona tecnologías digitales con la ancestral sabiduría agrícola de la India para brindar apoyo a los pequeños agricultores. |