Según Sundar Pichai, el CEO de Alphabet Inc., la empresa matriz de Google, admite que existe una falta de comprensión completa por parte de la compañía acerca del funcionamiento de su reciente chatbot llamado Bard.
Durante una entrevista, Pichai confesó que no tiene un conocimiento completo del nuevo programa de inteligencia artificial creado por su compañía Google, debido a que este logró aprender un idioma extranjero, el bengalí, para el cual no estaba preparado, y también hizo referencia a bibliografía falsa como solución a un problema económico.
“Hay un aspecto de esto que llamamos una ‘caja negra’. Sabes, no lo entiendes del todo”, reconoció Pichai. “Y no puedes decir por qué dijo esto, o por qué se equivocó. Tenemos algunas ideas, y nuestra capacidad para entender esto mejora con el tiempo. Pero ahí es donde está el estado del arte”, agregó.
El presentador de la entrevista, Scott Pelley, quedó sorprendido y reaccionó con la frase: “¿Lo ha lanzado a la sociedad sin entender completamente cómo funciona?”. Ante esto, Pichai respondió: “Así es. Sin embargo, permítame expresarlo de esta manera: No creo que tengamos un entendimiento completo de cómo funciona la mente humana”. Esto fue su justificación.
Según Pichai, Google está mostrando responsabilidad al no lanzar versiones avanzadas de su chatbot, Bard. Esto se debe en parte a la necesidad de que la sociedad se familiarice con la tecnología y a que la compañía pueda desarrollar medidas de seguridad adicionales. A pesar de la competencia que existe en el campo de la IA, impulsada por herramientas como ChatGPT de OpenAI, Google sigue manteniendo un ritmo más lento y precautorio.
El orador explicó que Bard cuenta con filtros de seguridad integrados para prevenir el riesgo de usuarios con malas intenciones. Asimismo, hizo hincapié en la necesidad de actualizar de forma constante los algoritmos del sistema para luchar contra la propagación de información falsa y para detectar falsificaciones, que son imágenes generadas por computadora que parecen ser reales.
Según el CEO, el principio central de “No seas malvado”, establecido por los fundadores de Google, fue creado con el propósito de asegurar que la empresa tuviera un impacto positivo en el mundo. Además, afirmó que esta norma sigue siendo parte del código de conducta de Google.
Cuando le preguntaron sobre sus preocupaciones en torno a la IA, Pichai respondió que le preocupa la necesidad de trabajar y desplegarla de manera efectiva para lograr beneficios, pero al mismo tiempo, reconoce que su implementación incorrecta puede tener consecuencias muy perjudiciales.
Durante una entrevista con el periodista Scott Pelley, Pichai afirmó que considera que la IA es la tecnología más avanzada en la que la humanidad está trabajando, incluso más que el fuego, la electricidad y cualquier otra cosa que se haya desarrollado en el pasado. Además, enfatizó que es una tecnología crítica que podría tener un impacto significativo en la seguridad nacional.
A pesar de esto, Pichai argumenta que la IA requiere regulación y que deben establecerse leyes para imponer consecuencias por la creación de videos falsos que dañan a la sociedad. En su opinión, cualquiera que tenga experiencia en el campo de la IA se da cuenta de que esta tecnología es tan diferente y profunda que necesitamos regulaciones sociales para determinar cómo podemos adaptarnos de manera efectiva.
