Window AI是一个新推出的实验性工具,旨在推出一种基于浏览器扩展的新型AI应用。这允许用户在一个地方配置他们的AI模型,并在网络上使用它们。该工具作为浏览器扩展和JavaScript API工作,允许用户保持对他们使用的应用程序所要求的数据的可见性。目前,许多人工智能应用程序要求用户使用他们的特定模型或API密钥,这可能是限制性的,并会暴露密钥。
Window的一个显著优势是,用户可以在私人数据上微调自己的本地模型,并在网络上使用,提示完全可见。该工具也是一个很好的隐私使用案例,并变得可移植。
Window为用户提供了一种灵活安全的方式在网络上使用AI模型。用户可以在一个地方管理他们所有的模型设置,无论它是像OpenAI这样的外部模型,还是代理的,或者是本地的。这确保他们可以保护自己的隐私,并使用自己喜欢的模型,而不会受到特定供应商或模型的限制。用户还可以跨应用程序保存他们的提示历史。
开发人员可以利用Window创建多模型应用程序,而不必担心API成本和限制。使用注入的 window.ai库,他们可以轻松开发不受供应商锁定的应用程序,并创建分散的应用程序。这使得开发者可以使用自己的人工智能模型,而不受特定供应商或模型的限制。
除了Window扩展,还有一个Window应用程序的聚合器,名为skylightai.io。这个聚合器有各种应用程序,包括三个游戏、一个ChatGPT克隆、一个Toolformer实现,以及一个供用户使用Next.js创建自己的应用程序的模板。
它是如何工作的?
窗口 "扩展允许用户只设置一次他们的钥匙和模型。随后,应用程序可以通过window.ai库请求权限,向他们选择的模型发送提示。这个过程对用户来说是透明的,因为他们总是被告知他们收到的提示以及他们收到提示的时间。
Window目前可与以下模型配合使用--OpenAI的GPT-3.5、GPT-4、Together的GPT NeoXT 20B、Cohere的Xlarge,以及像Alpaca这样的开放模型,它们可以在本地运行。
为什么要用Window构建?
有几个理由可以考虑用Window扩展来构建应用程序。首先,它消除了与模型API成本、超时和速率限制有关的基础设施负担,从而减少了服务器计费时间。此外,Window能够轻松整合多个模型,并负责模型升级和对其他供应商的支持。
此外,Window允许用户建立有隐私意识的应用程序,只与用户的首选模型通信,这大大减少了对模型输出的责任。
挑战
Window AI的开发者希望 window.aiAPI将成为各种人工智能应用,甚至是多模态应用的一个不断发展的标准。该工具的灵感来自于加密货币钱包的工作方式,为了使其发挥作用,开发人员认为,各种建立在 window.ai标准之上的各种JavaScript应用程序是需要的。此外,私有的、小众的模型必须从另一侧插入其中,这可能是一个两方面的挑战。
总而言之,Window为在网络上使用人工智能模型提供了一种灵活和安全的方式,使用户能够在一个地方管理他们的模型,而不会受到特定供应商或模型的限制。开发人员可以轻松地建立多模型应用程序,摆脱基础设施负担和模型API成本。然而,采用window.ai的JavaScript API标准可能需要进一步的开发和私人的、小众的模型来插入其中。