H100推理飙升8倍!英伟达官宣开源TensorRT-LLM,支持10+模型
H100推理飙升8倍!英伟达官宣开源TensorRT-LLM,支持10+模型H100让模型推理性能最高跃升8倍!英伟达最新开源软件TensorRT-LLM,将彻底改变LLM推理现状。
来自主题: AI资讯
5021 点击 2023-09-10 23:24
H100让模型推理性能最高跃升8倍!英伟达最新开源软件TensorRT-LLM,将彻底改变LLM推理现状。
热门人工智能初创公司 IntenseEye 正在进行新一轮融资,预计该公司的估值将增加两倍。《福布斯》有消息称,风险投资公司光速创投(Lightspeed Venture Partners)领投了这家公司的B轮融资,目前从事工作场所安全监控的人工智能公司的估值约为3亿美元。