Los desarrolladores de aplicaciones y servicios han encontrado la piedra filosofal a sus necesidades de creación de nuevos productos más eficientes. Tanto el chatbot de OpenAI, ChatGPT, como el modelo de voz a texto (inaugurado en septiembre de 2022), Whisper, estarán disponibles a través de una nueva API.

En la propia API de la web de OpenAI se encuentra a disposición de los desarrolladores las versiones de ambos modelos. Además han estado trabajando por perfeccionar sus prestaciones, haciéndolos más rápidos y rentables económicamente, reduciendo hasta en un 90% sus costos. Además, han perfilado los términos de servicio de su API para ajustarse a las necesidades de los clientes.

¿Cómo funciona?

La API de ChatGPT permite acceso a GPT 3.5 Turbo, el mismo modelo que se usa en ChatGPT. OpenAI aclaró que los datos enviados a través de la API ya no se usarán para mejorar los modelos sin su consentimiento. Se está implantando una política de retención de datos predeterminada de 30 días para los usuarios de API.

GPT 3.5 Turbo posee un precio de 0,002 dólares por 1k tokens, es decir, es diez veces más baratos que los modelos GPT-3.5 existentes. De este modo, con pequeños ajustes, será sencillo pasar de text-davinci-003 al actual modelo. Los modelos ChatGPT consumen una secuencia de mensajes junto con metadatos, empleando un lenguaje marchado de chat (ChatML).

GPT-3.5 cuenta con actualizaciones constantes y con instancias dedicadas a usuarios que desean un control más profundo sobre la versión específica del modelo y el rendimiento del sistema.

Todas las solicitudes son ejecutadas en una infraestructura informática compartida con otros usuarios que pagan por solicitud. Desde ese momento, los desarrolladores tendrán todo el control sobre la carga de la instancia, podrán habilitar características y tendrán capacidad para anclar la instantánea del modelo. De esta forma se lograrán reducir los costos en relación con la infraestructura compartida.

Su presencia en empresas

Tras el anuncio, han sido varias las empresas que están utilizando la API de ChatGPT y de Whisper para sus aplicaciones, aportándoles grandes mejoras. ¡Analizamos algunas de ellas!

  • Instacart: Utiliza la tecnología artificial para ayudar a los clientes a preguntar sobre alimentos y que puedan crear sus listas de la compra a través de preguntas abiertas. Se vale a su vez de los datos de productos de sus más de 75.000 tiendas minoristas asociadas. Ahora se permitirá preguntar cosas tan precisas como: ¿Qué almuerzo es más saludable para mis hijos? A finales de año se prevé el lanzamiento de Ask Instacart.
  • Shopify: Su aplicación Shop incorporará la tecnología ChatGPT para mejorar la experiencia de sus más de 100 millones de usuarios. El asistente de compra le realizará recomendaciones personalizadas a partir de la IA, escaneando millones de productos para aportarle lo que más se ajuste a sus necesidades.
  • Speak: Esta aplicación de aprendizaje de idiomas impulsada por IA, se está sirviendo de la API de Whisper para crear un nuevo producto complementario que habla, lo cual genera una práctica conversacional única con estudiantes.
  • Snap Inc: El creador de Snapchat ha presentado My AI para Snapchat +. Se valdrá de la API de ChatGPT que permitirá a sus 750 millones de usuarios disponer de recomendaciones como escribir un haiku para amigos en segundos.
  • Quizlet: Esta plataforma de aprendizaje global, con más de 60 millones de estudiantes, se ha servido de GPT-3 para aprender vocabulario y realizar prácticas. Ahora pone a disposición de sus usuarios un tutor de IA adaptable a las preguntas que le hagan.

El enfoque del desarrollador

OpenAI ha ido perfeccionando sus servicios para hacer que los desarrolladores encuentren más facilidades en su trabajo. Ahora, los datos enviados a través de la API ya no se usan para mejorar el servicio, salvo que la organización pida participar. También resulta esencial eliminar la revisión previa al lanzamiento, mejorar la documentación del desarrollador y simplificar los términos de servicio y políticas de uso.

Durante los últimos dos meses, Open AI ha venido trabajando para garantizar la estabilidad de la IA y que ésta beneficie a toda la humanidad, ofreciendo oportunidades únicas a nivel técnico y económico y aplicando tanto ChatGPT como Whisper a las aplicaciones del futuro.

Fuente info
Autor: Sergio Delgado