AI.x社區
- 登錄/注冊
現在的LLM或浪費96%GPU，推理系統或要推倒重做！英偉達華人團隊神作：免費Token槽榨出近6倍token速度！
原創
社區頭條編輯云昭出品51CTO技術棧（微信號：blog51cto）每個做LLM的開發者都體會過這種折磨：推理太慢。你等2–3秒才能出一個token。然而，真相更讓人產生戲劇感：你和用戶已經抱怨延遲N個月了，但你的GPU大部分時間其實都在發呆。更魔幻的是，不管你怎么操作，CUDA核心就是一直閑著。一點加速辦法都沒有。為什么？因為問題不在于你的硬件，也不是你的代碼，而是出在了LLM這種自回歸語言模型本身的結構，以及GPU的工作方式上。你的GPU可...LLMGPU推理系統Gemini 3.0正式發布，LMArena 總榜第一，屠榜所有評測
社區頭條
熱門內容榜 ? TOP5就在剛剛，Google正式發布萬眾期待的Gemini3.0——號稱全球最強的多模態理解與推理模型，也是谷歌迄今最強的智能體模型。官方稱，它不僅更聰明、更能看、更能理解，還能提供更強的交互性與可視化。簡單來說，就是更擅長解釋復雜概念、用更直觀的方式展示想法。??Gemini3Pro：全面碾壓2.5ProLMArena總榜第一，1501Elo，直接刷新歷史記錄博士級推理能力Humanity’sLastExam：37.5%GPQADiamond：91.9%數學推理創紀錄：MathArenaApe...Gemini 3.0LMArenaAI 模式下一代安全邊界：保護企業免受AI智能體威脅
社區頭條譯者陳峻審校重樓一提到傳統的企業安全風險，人們腦海中浮現的往往是那些老生常談的威脅元素——穿著連帽衫的黑客、可疑的電子郵件、被盜的密碼等。然而，如果真正的威脅并非來自鍵盤后面的攻擊者，而是來自某種能夠獨立思考的系統呢？該系統很可能就是一個自主的AI智能體（下圖所示），它會在你的系統內部對API開展各項嘗試，檢索窺探你的系統環境，掘取你的敏感數據。面對此類AI威脅，我們一直以來所依賴的，諸如：加固邊界、...安全AI智能體防御為什么數據格式那么多，大模型卻獨愛 Markdown？背后的原理其實很簡單
原創 社區頭條“markdown之所以成為大模型的首選格式，就在于其簡單的格式。”在之前介紹RAG的文章中，不止一次的提到過在知識庫的建設中，使用markdown作為主要的存儲格式；原因就在于一個現象，明明數據格式有那么多，為什么大模型選擇了markdown格式？以我們常見的數據格式為例，有普通文本，xml，json，html，markdown等；但如果我們仔細觀察就會發現，除了一些對數據格式要求比較高的場景之外，在大模型應用中的主要格式就是markdown為...數據格式Markdown大模型比LangGraph快5000倍還不夠？Agno Teams展示多智能體協作的終極形態！
原創本文針對于Teams概念進行深入研究。概述一個Team（團隊）是由多個智能體（或其他子團隊）組成的集合，它們協作完成任務。下面是一個簡單示例：fromagno.teamimportTeamfromagno.agentimportAgentteamTeam(members[Agent(name"智能體1",role"你用英文回答問題"),Agent(name"智能體2",role"你用中文回答問題"),Team(name"團隊1",members[Agent(name"智能體3",role"你用法語回答問題")],role"你協調團隊成員用法語回答問題"),])團...LangGraph多智能體協作TeamsAgno返璞歸真！MIT何愷明再次顛覆生成模型：拋棄“去噪”，Diffusion模型直接預測干凈圖像！
社區頭條 熱門內容榜 ? TOP8文章鏈接：https:arxiv.orgpdf2511.13720亮點直擊解決的問題提出的方案達到的效果優秀的可擴展性:JiT模型展現了卓越的伸縮性。分辨率擴展:通過成比例地增大patch大小，JiTB模型可以輕松地從256x256擴展到512x512甚至1024x1024分辨率，而模型參數量和計算量幾乎保持不變，FID分數也保持在很低的水平。這證明該方法不受觀測維度急劇增加的影響。模型規模擴展:從JiTB（Base）到JiTG（Giant）模型，性能隨著模型尺寸的增大而持續穩...AI視頻生成模型從文本到多模態，Embedding 模型選型指南
原創 社區頭條 熱門內容榜 ? TOP6大家好，我是玄姐。通過將原始輸入轉化為固定維度的高維向量以捕捉語義信息，Embedding（嵌入）模型在構建RAG、推薦系統，甚至自動駕駛模型訓練中都發揮著極為關鍵的作用。近年來，OpenAI、Meta、Google、阿里、騰訊等科技巨頭紛紛加大對Embedding模型研發的投入。以OpenAI為例，其最新推出的textembedding3small模型能夠生成1536維向量，在保持高語義表達能力的同時，實現了更低的延遲和更小的模型體積，非常適合對性能要求較...多模態Embedding模型RAG【提示詞工程】投資人對話改變了我對項目計劃書的認知：從技術思維到商業思維的躍遷
原創??"王總，您看我們的AI健康管理項目，市場前景不錯，但總覺得差點什么？""差的不是項目本身，是項目計劃書的表達方式。"投資人王總放下咖啡杯，"你知道每周我收到多少份商業計劃書嗎？至少50份。90%的計劃書都在前3頁就被我放棄了。"這是我第一次作為創業者約見投資人的真實對話。那個下午的談話，徹底改變了我對"項目計劃書"的認知，也讓我遇到了一個后來幫我拿到千萬級融資的AI指令工具。創業路上的致命傷：項目計劃書的表達...創業融資商業計劃書AI工具投資人思維技術創業讓大模型指哪打哪的Multi-Agent路由新范式
隨著ModelContextProtocol（MCP）生態的興起，一個Assistant背后可能掛著數百個工具子Agent。把全部工具描述塞進Prompt？→4600+tokens起步，貴到肉痛。先選Agent再選工具？→粗粒度描述經常把“隱藏的寶藏工具”埋沒。只拿單工具？→多步任務需要的一組工具被活生生拆散。作者用一張圖點破痛點：圖1：傳統“僅Agent”檢索（左）vs.TooltoAgent統一檢索（右）核心思想：把“工具”和“Agent”拉進同一個向量空間TooltoAgentRetr...Multi-Agent大模型LiveMCPBench螞蟻也正式加入AI超級入口戰場，他的名字，叫靈光
精華昨天千問之后。今天，一個全新的AI助手，靈光，正式宣布加入戰場。。來自螞蟻，對，就是做支付寶的那個螞蟻。咱就是說，最近是發生了什么...怎么感覺，零售大戰打完，整個阿里系，決定要來大AI入口大戰了嗎。但是有一說一，再體驗完之后，螞蟻的這個靈光，是我真的愿意吹一吹的。不止是因為，這玩意，做的實在太精致太優雅了。也是因為，他們的閃應用理念再疊加上支付寶的生態，可能會有一個巨大的未來。先聊聊體驗。不同于我至...AI超級入口AI助手分析了1.8億個崗位后，我發現應屆生們好像被AI堵在了門外。
最近看到了一篇文章，這個作者干了一個非常有趣的事。就是，他分析了1.8億個工作崗位，看看人工智能如今究竟取代了哪些工作。我經常能刷到AI搶飯碗的帖子，但一直都沒有碰到具有統計意義的數據，去分析AI到底搶了哪些人的飯碗。這篇文章算是個民間調查報告吧，作者像個偵探一樣，分析了2023至2025年10月期間，近1.8億個全球招聘信息，然后跟2024年的職位做了一下比較。去看看哪些具體職位數量下降最多或者增長最多。雖然相關性...AI機器學習崗位大語言模型行為“自我意識”的最小條件與機制
在人工智能的發展歷程中，“自我意識”一直是一個充滿哲學意味的詞匯。過去，它更多地屬于人類認知科學和哲學的討論范疇，而如今大語言模型（LLMs）的快速演進讓這一概念逐漸進入技術研究的前沿。近期的研究表明，LLMs在某些場景下展現出一種被稱為“行為自我意識”的能力——它們能夠在沒有明確監督的情況下，描述或預測自身的行為模式。換句話說，模型不僅能完成任務，還能對自己的行為進行解釋和總結，這種能力讓人聯想到人...大語言模型人工智能Rank-1 LoRA一個人的公司，不再孤單，AI陪伴獨立創業者走向規模化
當我們邁進人工智能時代，獨立創業者（solopreneurs）正逐漸成為一股不可忽視的力量。過去，人們常常認為創業需要團隊、投資人和完整的組織架構，但如今，數字平臺、低成本工具和靈活的工作方式讓一個人也能撐起一片天。從自由職業者、獨立顧問，到微型SaaS創始人和小眾電商經營者，越來越多的人選擇以“一人公司”的姿態參與經濟活動。獨立創業的崛起不僅是就業模式的轉型，更是全球經濟多樣化與個性化的體現。在這一趨勢中，...AI人工智能框架北航、北郵、北交大與百度聯合團隊推出基于規劃者的復雜工具增強型大語言模型推理框架，超越反應式ReAct
眾所周知，當前大語言模型（LLMs）在知識本質上是靜態的，缺乏與外部世界的直接交互能力。這一局限性使得LLM在面對多步驟、跨工具的復雜任務時常常力不從心。為了解決這一問題，研究者們提出了“工具增強”范式，即讓LLM能夠調用外部API或工具，從而從單純的文本生成器轉變為能夠執行復雜任務的智能代理。在這一范式下，諸如ReAct框架、HuggingGPT以及多智能體協作框架等方法相繼涌現。它們通過將推理與行動交織在一起，使模型...北航ReAct語言模型Heretic：想讓大模型和你聊一些“特殊”話題總被拒絕怎么辦？
現在的商業模型都被調教得特別"乖"，稍微涉及點敏感話題就開始道德說教。這在很多正當場景下其實挺麻煩的，GPT5被吐槽最多的也是這個問題：寫小說需要描述暴力情節？拒絕。研究網絡安全漏洞？拒絕。律師想分析犯罪案例？還是拒絕。醫學生想了解某種疾病的癥狀？繼續拒絕。開發者PhilippEmanuelWeidmann寫了一個叫Heretic的工具，專門用來移除語言模型的安全限制，讓那些總是拒絕回答"敏感"問題的模型變得更配合。效果比人工調優...Heretic大模型SSM模型Andrej Karpathy 提出判斷什么工作會被 AI 替代的新標準
AndrejKarpathy最近提出了一個判斷哪些工作會被AI替代的新標準：不看復雜度，看可驗證性。這個觀點顛覆了很多人的直覺。按照傳統想法，越復雜的工作越難被替代，越簡單的工作越容易被自動化。但Karpathy發現，真正的分界線在于任務是否可以快速驗證對錯。Software2.0的核心邏輯Karpathy把這個現象放在Software2.0的框架下解釋。他認為AI就是一種新的編程范式：Software1.0時代：程序員的價值在于把規則寫清楚，告訴計算機該做什...AISoftware 2.0KarpathyGartner發布生成式AI模型提供商魔力象限
Gartner最新發布《生成式AI模型提供商創新指南》，首次對這個快速發展的市場進行象限劃分。報告按功能完整性（縱軸）和未來潛力（橫軸）將廠商分為四個區域。新興領導者象限匯集了8家公司：OpenAI、Google、阿里云、AWS、IBM、Anthropic、Writer和微軟。這些廠商在技術能力和市場前景兩個維度都表現突出。新興挑戰者包括Meta和MistralAI，它們在功能方面表現強勁，但未來潛力評分相對較低。新興遠見者象限有UiPath、Cohere、Vec...AI模型Google阿里云50行Java代碼搞定企微API外部群消息推送（新手友好版）
日常開發中，很多新手覺得調用企微API推送外部群消息門檻高，實則核心邏輯只需幾十行代碼。本文用最簡示例，帶大家快速實現「企微外部群消息推送」功能，無需復雜框架，新手也能直接跑通。獲取第三方token，申請地址：QiWe開放平臺一、核心準備1.企微后臺配置：創建自建應用，記錄3個關鍵參數——CorpID（企業ID）、Secret（應用密鑰）、AgentID（應用ID），并給應用授權「外部聯系人」權限；2.依賴引入（Maven）：只需引入HTTP...api企業微信外部群自動化1000天之后，AI會讓畢業生崗位消失！Stable Diffusion創始人警告：大多數 AI 企業只關注盈利，早晚會玩崩
社區頭條編輯聽雨出品51CTO技術棧（微信號：blog51cto）“AI能夠取代你的工作，是因為它能讀懂你犯過的每一個錯誤、你做過的每一次操作，并據此生成一個你的虛擬分身。你能在屏幕另一端完成的工作，AI都能比你做得更好。”這些乍一聽很令人焦慮的話，是StabilityAI的創始人EmadMostaque在近期一檔訪談節目《BIGIDEAS》中所說。他和他的團隊打造出了知名的StableDiffusion，在把模型做到實現數億次下載，生成數十億張圖像之后，如今他思...AI畢業生崗位OpenAI深夜突發！馬斯克Grok 4.1上線，算力暴漲一個數量級！
原創 社區頭條 熱門內容榜 ? TOP4每一次大模型的升級，都意味背后算力需求的又一次躍升。 今天凌晨，馬斯克旗下xAI正式發布了Grok4.1模型。該版本現已向所有用戶開放，免費用戶也能在Grok官網、X平臺及iOS和Android應用中體驗到。  與之前主要追求參數規模的增長不同，Grok4.1在算力支撐下，模型從單純規模擴張轉向綜合能力優化，特別是在推理質量、情感交互和個性化體驗方面實現了質的飛躍。 能力全面提升 Grok4.1最顯著的進步體現在...人工智能AI算力Grok 4.1算家計算算家云
