在Hugging Face,我们正在实现优质AI的民主化。我们正在构建增长最快的AI构建者平台,拥有超过1100万用户,他们共同分享了300多万个模型、100多万个数据集和147多万个应用程序。我们的开源库在Github上有超过60多万颗星。
关于职位
我们正在为Hugging Face构建开源语音代理堆栈,我们正在寻找一位高级工程师来负责其中大部分工作。这个角色的核心有两件事。第一是语音到语音,这是我们用于实时语音代理的开源库。第二是hf-voice,这是一个新产品,它将允许任何开发人员使用他们的Hugging Face账户构建和部署语音代理。
该库已经为Reachy Mini车队提供支持,并且有一个公开的演示在Spaces上运行,所以你不会从一张白纸开始。但关于如何将其变成开发者依赖的产品,几乎一切都是开放的,你将直接参与决策。
你的任务:
- 负责开源库:
- 负责speech-to-speech的大部分架构设计:管道设计、延迟预算和实时循环的可靠性。
- 随着新ASR、TTS和端到端语音模型的加入,整合它们,并保持抽象层的清晰,同时模型领域不断变化。
- 审查社区PR,分类问题,发布版本,并围绕项目发展贡献者群体。
- 发布hf-voice:
- 设计开发者API和流媒体协议:会话生命周期、传输(WebSockets/WebRTC)、身份验证、错误语义、版本控制。
- 构建服务端:GPU上的实时推理、并发性、自动扩展、可观察性和每个会话的成本。
- 与Hub和推理团队合作,使一个可工作的语音代理易于集成到产品和演示中。
- 将产品从演示带到生产:负载测试、SLOs,当模型或网络路径出现问题时的优雅降级。
- 公开工作:
- 编写文档、示例和模板,让开发者从零到运行代理只需几分钟。
- 支持已经依赖该堆栈的部署,从Reachy Mini车队开始。
- 如果你喜欢,可以公开谈论这项工作:博客文章、演示、会议演讲。我们承担差旅费和准备时间。
要求
我们正在寻找
- 高级工程师,能够自主拥有架构的相当大一部分并推动其向前发展。
- 在AI或开发者工具公司构建面向开发者的基础设施的经验:推理API、代理基础设施或类似的东西。
- 对Python库有大量开源贡献。熟悉异步Python和分布式系统,包括它们的故障模式。
- 你已经发布了一些实时的东西:流媒体、WebSockets或WebRTC、音频或视频管道、实时推理。
- 在生产中实际使用LLMs或多模态模型的实践经验。清晰的书面沟通和习惯于异步和公开协作。
- 对语音和对话AI有动力。
如果你有以下条件,我们会优先考虑
- 对语音代理框架的贡献,如语音到语音、pipecat、LiveKit Agents、Vocode或TEN。
- 对llama.cpp或其他低级推理运行时的贡献。
- 与ASR、TTS或端到端语音模型的实际工作,包括对延迟和质量权衡的评估。
- GPU服务、量化或设备上推理经验。
- 音频管道知识:VAD、回声消除、抖动缓冲、抢话和轮次检测。
- 发布到嵌入式或机器人目标的经验。
- 公开记录:演讲、博客文章、演示。
关于你
如果你有兴趣加入我们,但不符合上述所有条件,我们仍然鼓励你申请!我们正在建立一个多元化的团队,其技能、经验和背景相辅相成。我们很乐意考虑你可能在哪里产生最大的影响。
还有一件事
在Hugging Face,我们相信伟大的AI不需要庞大的集群,我们为每个人构建,特别是那些缺乏GPU的人。而且因为我们阅读每一份申请,这里有一个小小的标志,表明你也阅读了这个申请:在回答第一个申请问题时,用“GPU-poor and proud 🤗”开头。没有技巧,没有陷阱,它只是告诉我们另一边是一个真实的人。
福利
更多关于Hugging Face
我们正在积极建立一个重视多样性、公平和包容性的文化。我们有意建立一个让人们感到被尊重和支持的工作场所——无论你是谁或你来自哪里。我们相信这是建立一家伟大公司和社区的基础。Hugging Face是一个机会均等的雇主,我们不歧视种族、宗教、肤色、国籍、性别、性取向、年龄、婚姻状况、退伍军人身份或残疾状况。 我们重视发展。你将与业内最聪明的人一起工作。我们是一个注重影响力的组织,并始终挑战自己以持续成长。我们为所有员工提供相关会议、培训和教育的报销。 我们关心你的福祉。我们提供灵活的工作时间和远程办公选项。我们为员工及其家属提供健康、牙科和视力福利。我们还提供育儿假和灵活的带薪休假。 我们支持我们的员工,无论他们在哪里。虽然我们在纽约和巴黎有办公空间,但我们非常分散,所有远程员工都有机会访问我们的办公室。如果需要,我们还将装备你的工作站,以确保你成功。 我们希望我们的队友成为股东。所有员工都将公司股权作为其薪酬方案的一部分。如果我们成功地成为机器学习和人工智能领域的定义性平台,每个人都能享受到收益。 我们支持社区。我们相信重大的科学进步是跨领域合作的结果。加入一个支持ML/AI社区的社区。