گری تان، رئیس و مدیرعامل Y Combinator، این هفته در جمعی در باشگاه اقتصادی واشنگتن دی سی بيان کرد که «احتمالاً مقررات برای هوش مصنوعی ضروری است».

تان با ترزا کارلسون، یکی از اعضای هیئت مدیره کاتالیست جنرال به عنوان بخشی از یک مصاحبه انفرادی صحبت کرد که در آن درباره همه چیز از نحوه ورود به Y Combinator تا هوش مصنوعی صحبت کرد و اشاره کرد که «هیچ زمانی بهتر از زمان مناسب برای کار در فناوری وجود ندارد. اکنون."

تان بيان کرد که از تلاش موسسه ملی استاندارد و فناوری (NIST) برای ایجاد یک چارچوب کاهش خطر GenAI "حمایت کلی" می کند و بيان کرد که "بخش های بزرگی از EO توسط دولت بایدن احتمالا در مسیر درستی هستند."

چارچوب NIST مواردی مانند تعریف اینکه GenAI باید با قوانین موجود که بر مواردی مانند حریم خصوصی داده ها و حق نسخه برداری حاکم است مطابقت داشته باشد، پیشنهاد می کند. افشای استفاده از GenAI برای کاربران نهایی؛ ایجاد مقرراتی که GenAI را از ایجاد مواد سوء استفاده جنسی از کودکان منع می کند و غیره. فرمان اجرایی بایدن طیف وسیعی از احکام از الزام شرکت‌های هوش مصنوعی برای به اشتراک گذاشتن داده‌های ایمنی با دولت تا اطمینان از دسترسی عادلانه توسعه‌دهندگان کوچک را پوشش می‌دهد.

اما تان، مانند بسیاری از VCهای Valley، نسبت به سایر تلاش‌های نظارتی محتاط بود. او لوایح مربوط به هوش مصنوعی را که در مجالس قانونگذاری کالیفرنیا و سانفرانسیسکو در حال حرکت است، "بسیار نگران کننده" خواند.

به گزارش پولیتیکو، مانند لایحه ای در کالیفرنیا که سروصدا به پا کرد، همان لایحه ای است که سناتور ایالتی اسکات وینر ارائه کرد و به دادستان کل اجازه می دهد در صورت مضر بودن کالاهایشان از شرکت های هوش مصنوعی شکایت کند.

"بحث بزرگ به طور گسترده از نظر سیاست در حال حاضر این است که یک نسخه خوب از این واقعا چگونه به نظر می رسد؟" تان گفت. ما می‌توانیم به افرادی مانند ایان هوگارت در بریتانیا نگاه کنیم تا متفکر باشیم. آنها همچنین به این ایده تمرکز قدرت توجه دارند. در همان زمان، آنها در تلاشند تا دریابند چگونه ما از نوآوری حمایت می کنیم و در عین حال بدترین آسیب های ممکن را نیز کاهش می دهیم.

هوگارت یک کارآفرین سابق YC و متخصص هوش مصنوعی است که توسط بریتانیا به یک کارگروه مدل هوش مصنوعی انتخاب شده است.

تان گفت: «چیزی که من را می‌ترساند این است که اگر بخواهیم به یک دغدغه علمی تخیلی که در دسترس نیست رسیدگی کنیم.

در مورد اینکه YC چگونه مسئولیت را مدیریت می کند، تان بيان کرد که اگر سازمان با مأموریت یک استارت آپ یا کاری که آن محصول برای جامعه انجام می دهد موافق نباشد، "YC فقط بودجه آن را تامین نمی کند." او بيان کرد که چندین بار در مورد شرکتی در رسانه ها می خواند که برای YC درخواست داده بود.

ما به عقب برمی گردیم و به یادداشت های مصاحبه نگاه می کنیم، و مثل این است که فکر نمی کنیم این برای جامعه خوب باشد. و خوشبختانه ما آن را تامین نکردیم.

رهبران هوش مصنوعی مدام خرابکاری می کنند

دستورالعمل Tan هنوز فضا را برای Y Combinator باقی می‌گذارد تا بسیاری از استارت‌آپ‌های هوش مصنوعی را به‌عنوان دانش‌آموزان همگروهی جذب کند. همانطور که همکار من کایل ویگرز گزارش داد، گروه زمستانی 2024 دارای 86 استارت آپ هوش مصنوعی بود که طبق فهرست راه اندازی رسمی YC، تقریباً دو برابر تعداد دسته زمستان 2023 و تقریباً سه برابر از زمستان 2021 است.

و رویدادهای خبری اخیر مردم را متحیر می کند که آیا می توانند به فروشندگان محصولات هوش مصنوعی اعتماد کنند تا بتوانند هوش مصنوعی مسئول را تعریف کنند. هفته گذشته، TechCrunch گزارش داد که OpenAI در حال خلاص شدن از شر تیم مسئولیت AI خود است.

سپس شکست مربوط به شرکت با استفاده از صدایی شبیه صدای اسکارلت جوهانسون بازیگر در هنگام نمایش مدل جدید GPT-4o بود. معلوم شد، از او در مورد استفاده از صدایش پرسیده شد، و او آنها را رد کرد. OpenAI از آن زمان صدای Sky را حذف کرده است، اگرچه منکر این بود که این صدای بر اساس جوهانسون است. این، و مسائل پیرامون توانایی OpenAI برای بازپس گیری حقوق صاحبان سهام اختصاص یافته، از جمله مواردی بود که باعث شد مردم آشکارا ظلم های سام آلتمن را زیر سوال ببرند.

در همین حال، متا با اعلام ایجاد یک شورای مشورتی هوش مصنوعی که فقط مردان سفیدپوست در آن حضور داشتند، خبرهای مربوط به هوش مصنوعی را به خود اختصاص داد و در واقع زنان و رنگین پوستان را کنار گذاشت، که بسیاری از آنها نقشی کلیدی در ایجاد و نوآوری آن داشتند. صنعت.

تان به هیچ یک از این موارد اشاره ن کرد. مانند اکثر VC های سیلیکون ولی، آنچه او می بیند فرصت هایی برای کسب و کارهای جدید، عظیم و پرسود است.

تان گفت: «ما دوست داریم در مورد استارتاپ ها به عنوان یک پیچ و خم ایده فکر کنیم. زمانی که یک فناوری جدید مانند مدل‌های زبان بزرگ ظاهر می‌شود، کل پیچ و خم ایده متزلزل می‌شود. ChatGPT خود احتمالاً یکی از سریع‌ترین محصولات مصرفی بود که در حافظه اخیر منتشر شد. و این خبر خوبی برای بنیانگذاران است. »

هوش مصنوعی آینده

تان همچنین بيان کرد که سانفرانسیسکو در مرکز جنبش هوش مصنوعی قرار دارد. به عنوان مثال، آنتروپیک، که توسط آلوم های YC شروع شد، و OpenAI که یک spinout YC بود، از آنجا شروع شد.

تان همچنین به شوخی بيان کرد که قرار نیست راه آلتمن را دنبال کند و بيان کرد که آلتمن «چند سال پیش شغل من را داشت، پس هیچ برنامه‌ای برای راه‌اندازی آزمایشگاه هوش مصنوعی ندارم».

یکی از دیگر داستان‌های موفقیت YC، استارت‌آپ حقوقی فناوری Casetext است که در سال 2023 به قیمت 600 میلیون دلار به تامسون رویترز فروخته شد. تان معتقد بود Casetext یکی از اولین شرکت‌هایی در جهان بود که به هوش مصنوعی مولد دسترسی پیدا کرد و پس از آن یکی از اولین شرکت‌هایی بود که خارج شد. در هوش مصنوعی مولد

وقتی به آینده هوش مصنوعی نگاه می کند، تان بيان کرد که "بدیهی است که ما باید در مورد این فناوری هوشمند باشیم" زیرا به خطرات مربوط به بیوتروریسم و ​​حملات سایبری مربوط می شود. در عین حال، او بيان کرد که باید «رویکرد بسیار سنجیده‌تری» وجود داشته باشد.

او همچنین فرض می‌کند که احتمالاً یک مدل «برنده همه چیز را می‌گیرد» وجود ندارد، بلکه «باغی باورنکردنی از انتخاب آزادی مصرف‌کننده و بنیان‌گذاران برای ایجاد چیزی که یک میلیارد نفر را تحت تأثیر قرار می‌دهد» وجود دارد.

حداقل، این چیزی است که او می خواهد ببیند که اتفاق بیفتد. این به نفع او و YC خواهد بود - بسیاری از استارتاپ‌های موفق که پول نقد زیادی را به سرمایه‌گذاران برمی‌گردانند. پس چیزی که تان را بیشتر می ترساند، هوش مصنوعی بد runamok نیست، بلکه کمبود هوش مصنوعی برای انتخاب است.

ما ممکن است واقعاً خود را در این موقعیت واقعاً انحصاری دیگر پیدا کنیم که در آن تمرکز زیادی فقط در چند مدل وجود دارد. سپس شما در مورد استخراج رانت صحبت می کنید و دنیایی دارید که من نمی خواهم در آن زندگی کنم.

خبرکاو