استارت آپی به نام Letta به تازگی از فناوری پنهانی بیرون آمده است که به مدل های هوش مصنوعی کمک می کند کاربران و مکالمات را به خاطر بسپارند. این شرکت که در کارخانه استارت‌آپ معروف UC Berkeley ایجاد شد، همچنین ۱۰ میلیون دلار سرمایه اولیه به رهبری آستاسیا مایرز Felicis را با ارزش‌گذاری ۷۰ میلیون دلاری پس از پول اعلام کرد.

لتا همچنین توسط سرمایه گذاران فرشته ای در هوش مصنوعی مانند جف دین گوگل، کلم دلانگو از Hugging Face، کریستوبال والنزولا از Runway و رابرت نیشیهارا از Anyscale و دیگران حمایت می شود.

این یک راه اندازی استارتاپ هوش مصنوعی مورد انتظار است که توسط دانشجویان دکترای برکلی سارا وودرز و چارلز پکر تأسیس شد. دلیل آن این است که این یک فرزند آزمایشگاه محاسبات آسمان برکلی است و نهاد تجاری پروژه منبع باز محبوب MemGPT است.

آزمایشگاه محاسبات آسمان برکلی، به رهبری پروفسور تحسین شده و یکی از بنیانگذاران Databricks، Ion Stoica، از فرزندان RISElab و AMPLab است که شرکت هایی مانند Anyscale، Databricks و SiFive را ایجاد کردند. به طور خاص، Sky Lab پروژه‌های مدل زبان بزرگ منبع باز (LLM) مانند گوریلا LLM، vLLM و زبان ساختار یافته LLM SGLang را ایجاد کرد.

یک تن از پروژه ها خیلی سریع، در بازه زمانی یک سال، از آزمایشگاه بیرون آمدند. وودرز توضیح داد: فقط افرادی که کنار ما نشسته اند. پس زمان فوق العاده ای بود.»

MemGPT یکی از این پروژه‌ها است و آنقدر کالای داغ است که در واقع حتی قبل از راه‌اندازی به صورت ویروسی منتشر شد.

پکر به TechCrunch گفت: «شخصی ما را غارت کرد. بنیانگذاران در روز پنجشنبه، 12 اکتبر 2023، وایت پیپری را ارسال کرده بودند و قصد داشتند دوشنبه آینده مقاله عمیق تر و کد آن را در GitHub منتشر کنند. یک فرد تصادفی مقاله را پیدا کرد، آن را در روز یکشنبه در هکر نیوز پست کرد، و "قبل از اینکه فرصتی برای انتشار صحیح کد، انتشار مقاله، یا مانند انجام یک موضوع توییت یا هر چیز دیگری داشته باشیم، در هکر نیوز ویروسی شد. او گفت.

دلیل هیجان این بود که MemGPT یک مشکل مخرب برای LLM ها را کاهش می دهد: مدل هایی مانند ChatGPT در شکل اصلی خود بدون حالت هستند، به این معنی که داده های تاریخی را در حافظه بلند مدت ذخیره نمی کنند. این برای برنامه‌های هوش مصنوعی که به شناخت و یادگیری کاربر در طول زمان بستگی دارد مشکل‌ساز است - همه چیز از ربات‌های پشتیبانی مشتری گرفته تا برنامه‌های ردیابی علائم مراقبت‌های بهداشتی. MemGPT داده ها و حافظه را مدیریت می کند تا عوامل هوش مصنوعی و چت بات ها بتوانند کاربران و مکالمات قبلی را به خاطر بسپارند.

پکر بيان کرد که پست روی کاغذ به مدت 48 ساعت در بالای سایت Hacker News، سایت محبوب برنامه نویسان که توسط Y Combinator اداره می شود، باقی ماند. پس او آخر هفته و چند روز آینده خود را صرف پاسخ دادن به سوالات در سایت کرد و در عین حال تلاش کرد تا کد را آماده انتشار کند. هنگامی که این پروژه در GitHub در دسترس قرار گرفت، پیوندی به آن دوباره در اخبار Hacker منتشر شد. مصاحبه ها و آموزش های یوتیوب، پست های متوسط، 11000 ستاره و فورک های 1.2K در GitHub به سرعت اتفاق افتاد.

مایرز VC Felicis با مطالعه در مورد MemGPT وودرز و پکر را نیز کشف کرد و فوراً به امکانات تجاری این فناوری پی برد.

او به TechCrunch گفت: «وقتی مقاله منتشر شد، آن را دیدم، و بلافاصله با بنیانگذاران تماس گرفت. ما یک موضوع سرمایه گذاری در مورد زیرساخت عامل هوش مصنوعی داشتیم و قدردانی کردیم که یکی از مؤلفه های واقعا مهم آن مدیریت داده و حافظه است تا این ربات های گفتگوی مکالمه و عوامل هوش مصنوعی مؤثر واقع شوند.

بنیانگذاران هنوز هم تقریباً در اطراف Sand Hill Road بودند و تماس‌های زوم را با VCها انجام می‌دادند، قبل از اینکه با کسی که ابتدا آنها را دوست داشت بروند.

در همین حال، استویکا میانجی‌گری برای معرفی دین، نیشیهارا و دیگر فرشتگان مشهور سیلیکون ولی انجام داد. پکر در مورد اینکه فرآیند سرمایه‌گذار فرشته چقدر آسان بود، به یاد می‌آورد: «بسیاری از اساتید در برکلی، فقط به دلیل حضور در برکلی، ارتباط بسیار خوبی با هم دارند. آنها به پروژه های خارج از این آزمایشگاه که قرار است تجاری شوند، توجه دارند.»

رقابت و تهدید OpenAI o1

در حالی که MemGPT در حال حاضر در طبیعت منتشر شده و در حال استفاده است، نوع تجاری Letta، Letta Cloud، هنوز برای تجارت باز نشده است. از روز دوشنبه، Letta درخواست‌های کاربران بتا را می‌پذیرد. این یک سرویس عامل میزبانی را ارائه می دهد که به توسعه دهندگان اجازه می دهد تا عوامل stateful را در فضای ابری مستقر کرده و اجرا کنند که از طریق API های REST قابل دسترسی است، یک رابط برنامه نویسی که می تواند وضعیت را حفظ کند. Letta Cloud داده های بلند مدت لازم برای انجام این کار را ذخیره می کند. Letta همچنین ابزارهای توسعه دهنده ای را برای ساخت عوامل هوش مصنوعی ارائه خواهد کرد.

با MemGPT، Wooders گستره وسیعی از کاربردها را می بیند. او او میگوید : «من فکر می‌کنم مورد استفاده شماره یک که می‌بینیم اساساً چت‌بات‌های بسیار شخصی‌شده و بسیار جذاب هستند. اما کاربردهای پیشرفته‌ای مانند «ربات چت برای بیماران سرطانی» نیز وجود دارد که بیماران تاریخچه خود را آپلود می‌کنند و سپس علائم مداوم را به اشتراک می‌گذارند تا ربات بتواند در طول زمان یاد بگیرد و راهنمایی کند.

شایان ذکر است که MemGPT تنها نیست که روی این کار کار می کند. LangChain احتمالاً شناخته شده ترین رقیب آن است و در حال حاضر گزینه های تجاری را ارائه می دهد. بزرگ‌ترین سازندگان مدل، ابزارهای ساخت عامل هوش مصنوعی را نیز ارائه می‌کنند، مانند OpenAI's Assistants API.

و مدل جدید o1 OpenAI ممکن است نیاز به اصلاح وضعیت را برای کاربران خود به یک موضوع مورد بحث تبدیل کند. از آنجایی که این یک مدل چند مرحله‌ای است، اساساً باید وضعیت را تا حدی حفظ کند تا قبل از پاسخ دادن، «فکر کند» و واقعیت را تحلیل کند.

اما وودرز، پکر و مایرز چند تفاوت کلیدی بین آنچه Letta ارائه می‌کند در مقابل آنچه گوریل OpenAI بازار 800 پوندی انجام می‌دهد، می‌بینند. لتا ادعا می کند که با هر مدل هوش مصنوعی کار می کند و انتظار دارد کاربرانش از بسیاری از آنها استفاده کنند: OpenAI، Anthropic، Minstrel، مدل های بومی خودشان. فناوری OpenAI در حال حاضر فقط با خودش کار می کند.

مهمتر از آن، Letta از MemGPT منبع باز استفاده می کند و محکم به سمت منبع باز بحث FOSS در مقابل جعبه سیاه LLM می پرد و می گوید منبع باز انتخاب بهتری برای برنامه نویسان برنامه های کاربردی هوش مصنوعی است.

پکر او میگوید : «ما خود را به‌عنوان جایگزین باز برای OpenAI قرار می‌دهیم. من فکر می‌کنم ساختن برنامه‌های کاربردی هوش مصنوعی بسیار بسیار سخت است، مخصوصاً زمانی که به آن اهمیت می‌دهید، مانند توهم، اگر نمی‌توانید ببینید که در زیر کاپوت چه می‌گذرد.

خبرکاو