PostgreSQL, популярная система баз данных, рассматривает возможность фундаментального изменения, чтобы отойти от своей процессно-ориентированной модели.
Разработчики считают, что это изменение может устранить ограничения производительности в больших системах и сократить дублирование кода, но есть опасения по поводу потенциальных разрушающих изменений и потери устойчивости системы.
Переход к потокам создаст такие проблемы, как переработка глобальных переменных и обеспечение совместимости с существующ ими расширениями, но предыдущий перенос PostgreSQL на потоки дает некоторое представление о проекте.
OpenLLM - это открытая платформа для эксплуатации больших языковых моделей (LLM) в производстве.
Она поддерживает широкий спектр современных LLM и предоставляет гибкие API для обслуживания и развертывания LLM.
Пользователи могут настраивать LLM в соответствии со своими потребностями и легко создавать приложения ИИ, комбинируя LLM с другими моделями и сервисами.