將大型語言模型（LLMs）應用于實際應用的主要障礙之一是它們的不可預測性、缺乏推理能力和難以解釋性。如果無法解決這些挑戰，LLMs將無法成為在關鍵環境中可信賴的工具。在最近的一篇論文中，認知科學家GaryMarcus和人工智能先驅DouglasLenat深入探討了這些挑戰，他們將這些挑戰歸納為了確保通用人工智能的16個愿望清單。TechTalks的創始人BenDickson將其整理發表了一篇名為"HowLLMscouldbenefitfromadecades’longsymbolicAIpr...

deepseek官網經常提示“服務器繁忙，請稍后再試。”，于是想自己實現本地部署。但是由于個人電腦太菜，只能嘗試一下步驟，記錄一下，后面等有強悍的服務器或者模型進一步優化才能私人真正獨立的使用與生產。總體方案：ollama+deepseekr1+本地AI模型的WebUI第一步：ollama網站下載ollama（Ollama是一個用于管理和運行本地AI模型的軟件工具。它提供了一種簡化的方式來下載、管理和在本地計算機上運行各種AI模型，而無需依賴云計算...

DeepSeek正在通過其開源模型DeepSeekR1革新AI產業，盡管資源有限，卻能媲美OpenAI的能力。通過讓前沿大模型更廣泛地開放，DeepSeek推動了全球的創新與合作。其創新的基于強化學習（RL）的后訓練技術可增強大模型的推理能力和對齊性，使大模型在實際應用中更加高效且易用。在本文中，我們將重點分析DeepSeekR1推理模型背后的關鍵RL后訓練技術。本文由MoPaaS的創始人魯為民博士最初以英文的形式發表（點擊文章末尾“閱讀原文”）...

快速瀏覽一下頭條新聞就會發現，如今生成人工智能似乎無處不在。事實上，其中一些標題實際上可能是由生成人工智能（如OpenAI的ChatGPT）撰寫的，這是一個聊天機器人，展示了一種近乎人類寫作的不可思議的能力。但當人們說“生成人工智能”時，他們真正指的是什么呢？在過去幾年生成人工智能的興起之前，當人們談論人工智能時，通常是在談論能夠根據數據進行預測的機器學習模型。例如，這些模型通過數百萬個示例進行訓練，以預測...

近日，AI音樂生成平臺Suno正式發布了其第四代模型——Sunov4。本次升級在音質、歌詞精準度和歌曲結構等方面都有顯著提升，標志著AI音樂創作邁入了一個新的篇章。Sunov4利用深度學習技術，基于大量音樂數據進行訓練，生成更加自然、豐富的音樂作品。與之前的版本相比，v4提供了更清晰的音頻、更銳利的歌詞以及更具動感的作品。此外，新模型能夠生成多種風格的音樂，滿足不同聽眾的需求，提供豐富多樣的曲風。相比之下，Sunov3雖...

有關類似GPT4這樣的大型語言模型（LLM）是否真正模擬人類邏輯和推理的辯論正在進行中。一些研究人員認為，隨著規模的擴大，LLM可能會發展出對抽象推理、模式識別和類比制作的新能力。另一方面，一些人認為促使這些能力的內部機制尚未被解釋清楚。一些實驗證明，這些模型在其訓練數據范圍之外難以推廣。"在創建和推理抽象表示方面的能力對于強大的泛化至關重要，因此有必要了解LLM在這方面已經取得了多大的能力，"圣塔菲研究所的...

AI改變游戲，這項工作的變革性不僅在于它節省了時間和金錢，同時也提供了質量——從而打破了經典的“成本、質量或速度只能有兩個”的三角關系。藝術家們現在只需要幾個小時就可以創作出高質量的圖像，否則手工生成這些圖像需要數周時間，真正具有變革性的是：任何人只要能學習一些簡單的工具，就可以獲得這種創造力；這些工具可以以高度迭代的方式創建無限數量的變化；一旦訓練完畢，該過程是實時的——幾乎可以立即獲得結果。...

了解向量、Tokens和嵌入是理解大語言模型怎樣處理語言的基礎。在處理LLMs時，你經常會遇到“向量”、“Tokens”和“嵌入”這些術語。在深入研究構建聊天機器人和人工智能助手之前，徹底理解這些概念非常重要。隨著多模態方法日益普及，這些術語不僅僅適用于大型語言模型（LLMs），還可用于解釋圖像和視頻。本教程的目標是通過簡單直接的示例和代碼片段向你介紹這些核心概念。向量：機器的語言向量在LLMs和生成式人工智能的運作...

今天，Meta發布了Llama3.1模型，延續了他們從最初的Llama3“預覽版”開始就踐行的開源理念，即盡早發布和頻繁發布。Llama3.1模型有三種規模：8B、70B和長期傳聞中的405B參數。對于其規模來說，這些模型是同類中最優秀的開源模型。4050億參數模型直接與Anthropic的Claude3和OpenAI的GPT4o處于同一水平。Llama3.1的營銷以及Meta的AI戰略正在直接推動將開源軟件實踐轉化為開源AI。這次發布的核心和AI的未來是AI能有多“開源”，以...

來自奧本大學和阿爾伯塔大學的研究人員發現，最先進的具有視覺能力的大型語言模型（VLMs）在理解涉及基本幾何形狀的空間信息方面表現得非常糟糕，例如判斷兩個圓是否重疊。他們提出了一個名為BlindTest的新基準測試，包括7項簡單任務，這些任務在互聯網上自然語言中不太可能有現成答案，以測試VLM像人類一樣“看見”圖像的能力。現有的VLM基準（如MMMU和ChartQA）涵蓋了廣泛的主題，但輸入圖像并非總是回答問題所必需的，即答案...

我昨天在AI工程師世界博覽會上發表了開幕主題演講。我是臨時加入議程的：OpenAI在最后一刻退出了他們的演講，我受邀在不到24小時的通知時間內準備一個20分鐘的演講！我決定重點講述自8個月前上次AI工程師峰會以來LLM（大語言模型）領域的亮點，并討論該領域的一些未解決的挑戰——這是我在早些時候的活動中提出的關于AI工程的開放問題演講的回應。在過去的8個月里，發生了很多事情。最值得注意的是，GPT4不再是該領域無可爭議的...

?LLMs的智能本質是什么？在之前的文章中，我談到了評估大型語言模型能力的困難。這些模型在許多基準測試中表現出色，但我們通常不知道基準測試中的測試項目，或足夠相似的項目，是否出現在訓練數據中。這些模型是在進行一般性的理解和推理，還是在進行AI研究員SubbaraoKambhampati所說的“近似檢索”——依賴于模型訓練數據中包含的文本模式？反事實任務范式反事實任務范式可以幫助回答這個問題。在這個范式中，模型在成對的任...

隨著前不久IlyaSutskever從OpenAI的離職，OpenAI首席架構師和著名強化學習(ReinforcementLearning,或RL)專家JohnSchulman?博士成為OpenAI現存最主要具有技術背景的創始人。最近，Schulman博士接受了著名的科技播客主持人DwarkeshPatel的專訪。他解密了OpenAI大模型發展史，介紹了OpenAI怎樣訓練和產品化大模型，尤其是后訓練階段如何通過RL提升大模型的泛化能力和實用性。Schulman分享了他對大模型伸縮律（ScalingLaw)，大模型...

隨著人工智能技術的不斷發展，大型語言模型成為人們關注的焦點之一。通用語言模型如GPT3在各種語言處理任務上展現了強大的能力，但隨著對特定領域需求的增加，領域特定的大型語言模型應運而生。這些模型通過在專業的領域內進行深入訓練或精調，提供了有針對性精準定制的解決方案。在《WhataredomainspecificLLMs》“什么是特定領域的LLMs”一文中，作者探討了大型語言模型的基本概念，并聚焦于領域特定的大型語言模型。他指出隨...

Google研究員Fran?oisChollet是一位在機器學習和深度學習領域具有重要影響力的一線工程師。他以創建流行的開源機器學習庫Keras而聞名,同時也是流行的機器學習實戰書籍《DeepLearningwithPython(使用Python來深度學習)》的作者。不久前他發表博文：“HowIthinkaboutLLMpromptengineering（大模型的提示工程之我見）”，深入地探討了大模型提示工程。Chollet從語言模型架構、學習機制和能力的演進來理解大模型的提示工程。他特別...

目前人們好像已在接受這樣的觀點：“大語言模型(LLMs)正在以指數速度進步。”就在幾天前，賓州大學沃登商學院（TheWhartonSchool)的EthanMollick教授在一篇廣受關注的博客文章中聲稱，“目前對LLMs的能力評估顯示，LLM的能力每5到14個月翻一番”。實際上Mollick教授引用的研究并未顯示他所聲稱的內容。如果你仔細閱讀，它沒有提到能力的提高。它顯示的是模型在達到給定性能水平所需的計算資源變得更有效率，“達到給定性能水平...

隨著AIAgents技術的不斷發展和成熟，我們可以期待在未來看到更多令人興奮的創新和應用。這些技術有望成為推動人類進步和提高生活質量的重要工具。本周，一家名為CognitionAI的初創公司引起了轟動，他們發布了一個演示，展示了一個名為Devin的人工智能程序執行通常由高薪軟件工程師完成的工作。像ChatGPT和Gemini這樣的聊天機器人可以生成代碼，但Devin更進一步，規劃解決問題的方法，編寫代碼，然后測試和實施。Devin的創建者將...

?“想象一下，有一天我們能夠打造出一個在廚房里執行各種任務的家庭機器人。那么問題就不僅僅是感知了。你真的需要學會各種個人操縱技能，以便能夠廣泛地泛化。”——Sergey?Craig:嗨，我是CraigSmith，歡迎收聽《AI視界》。今天我和SergeyLevine進行了交談，他是加州大學伯克利分校的副教授，在該校的機器人人工智能與學習實驗室從事研究，并推動著AI控制機器人的邊界。Sergey談到了他最近在強化學習和從世界各地的機器人中...

Sora是OpenAI發布的一款視頻生成模型，采用了DiffusionTransformer架構，旨在實現高保真度和視頻圖像的前后一致性。其突出之處在于能夠生成逼真流暢的視頻內容，令人驚嘆不已。Sora一經推出便在極短的時間內迅速引起了科技界和社會各界的關注，同時也引發了關于AI技術發展和產業變革的激烈討論，日前，MoPaaS魔泊云創始人和CEO魯為民博士參與騰訊科技舉辦的：與硅谷專家和創業者共同探討：Sora的商業邏輯與技術創新分析直播活動...

OpenAI的Sora又一次出圈，掩蓋其它新的AI產品的鋒芒，包括幾乎同期發布的Google的Gemini1.5和Meta的VJEPA。很多AI從業者為此大抱不平，聲稱“被Sora奪走風頭的Gemini被低估了！”特別是Google這次推出的Gemini1.5Pro是一種多模態大模型（涉及文本、視頻、音頻），性能水平與谷歌迄今為止最大的模型1.0Ultra類似，并引入了長上下文理解方面的突破性實驗特征。它能夠穩定處理高達100萬Tokens（相當于1小時的視頻和超過3萬行代碼）...