“`html
Meta, la corporación bajo la gestión de Mark Zuckerberg, ha puesto a disposición su modelo de lenguaje de inteligencia artificial, el OPT-175B (Transformador Preentrenado Abierto). Meta busca ofrecer esta novedosa tecnología a la comunidad académica para fomentar sus indagaciones con el apoyo de la IA.
OPT-175B dispone de 175.000 millones de parámetros y ha sido entrenado con un vasto volumen de datos públicos, lo que posibilita generar texto creativo en diversas formas, resolver cálculos matemáticos elementales o proporcionar respuestas a preguntas relacionadas con la comprensión lectora, entre otras capacidades.
Un modelo de lenguaje sin costo
El propósito de Meta ha sido lanzar un modelo sin costo que pueda ser utilizado por la comunidad en su totalidad. También ha hecho disponible sus modelos anteriores y un libro de registro sobre su evolución, que incluye información acerca de su proceso de elaboración, con el fin de permitir el estudio y la comprensión del funcionamiento de OPT-175B a cualquier interesado.
Meta implementa medidas para prevenir el uso inapropiado de OPT-175B
Como era de esperarse, el lanzamiento de una herramienta tan poderosa ha generado serias preocupaciones en Meta, ya que OPT-175B puede ser empleado en actividades inadecuadas. En respuesta, la empresa proporcionará acceso al modelo de lenguaje mediante una licencia sin fines comerciales destinada a académicos, entidades gubernamentales y laboratorios de investigación globalmente.
No obstante, para aquellos ingenieros que deseen tener control total de sus propias soluciones de IA, Meta ha publicado varios modelos de referencia de menor escala, que poseen un número reducido de parámetros en comparación con el modelo original (125 millones, 350 millones, 1.300 millones, 2.700 millones, 6.700 millones, 13.000 millones y 30.000 millones), pero que han sido igualmente entrenados con todos los datos y con los ajustes presentes en OPT-175B.
De acuerdo con el comunicado oficial de Meta, «un grupo mucho más extenso de la comunidad requiere acceso a estos modelos para llevar a cabo investigaciones y avanzar colectivamente el campo. Con el lanzamiento de OPT-175B, aspiramos a ampliar la diversidad de voces que definen las consideraciones éticas sobre tales tecnologías».
Otros modelos lingüísticos
OPT-175B no es el primer modelo de lenguaje natural que se ha desarrollado. Sin embargo, acceder a ellos exige una considerable inversión económica. «Este acceso restringido ha limitado la habilidad de los investigadores para entender cómo y por qué operan estos modelos de lenguaje, lo que complica el avance de los esfuerzos para mejorar su solidez y atenuar problemas reconocidos como el sesgo y la toxicidad», han afirmado desde Meta.
Durante el 2020, la compañía Open AI, anunció el lanzamiento de su modelo
“`GPT-3 que opera con 175.000 millones de parámetros, similar a OPT-175B, y su conocimiento se fundamenta en 400.000 millones de textos tomados de internet.
En noviembre de 2021, la API de GPT-3 fue puesta a disposición para que los programadores pudieran acceder al modelo e implementarlo; sin embargo, la compañía realizó ajustes significativos en sus políticas para prevenir que el GPT-3 se utilizara en contenidos violentos, políticos, de odio o para adultos, entre otros. Esta acción se emprendió porque la API se basa en textos y materiales generados por personas a lo largo de la historia de internet, lo que podría resultar en la imitación de comportamientos y respuestas racistas o con sesgos sexistas.
Para la creación de OPT-175B, se tuvo en cuenta la sostenibilidad energética, lo que permitió entrenar un modelo de gran tamaño utilizando solo una séptima parte de la huella de carbono que consumió GPT-3, gracias a la integración de código abierto de Meta.
Otra división de la empresa Open AI abarca el desarrollo de Dalle-2, un sistema capaz de crear imágenes realistas e ilustraciones a partir de descripciones textuales. Lamentablemente, por ahora, esta tecnología solo está accesible para un grupo reducido de personas.
Imagen: Depositphotos
