『壹』 機器學習需要什麼數學基礎

我們知道，機器學習涉及到很多的工具，其中最重要的當屬數學工具了，因此必要的數學基礎可謂是打開機器學習大門的必備鑰匙。機器學習涉及到的數學基礎內容包括三個方面，分別是線性代數、概率統計和最優化理論。下面小編就會好好給大家介紹一下機器學習中涉及到的數學基礎知道，讓大家在日常的機器學習中可以更好地運用數學工具。

首先我們給大家介紹一下線性代數，線性代數起到的一個最主要的作用就是把具體的事物轉化成抽象的數學模型。不管我們的世界當中有多麼紛繁復雜，我們都可以把它轉化成一個向量，或者一個矩陣的形式。這就是線性代數最主要的作用。所以，在線性代數解決表示這個問題的過程中，我們主要包括這樣兩個部分，一方面是線性空間理論，也就是我們說的向量、矩陣、變換這樣一些問題。第二個是矩陣分析。給定一個矩陣，我們可以對它做所謂的SVD分解，也就是做奇異值分解，或者是做其他的一些分析。這樣兩個部分共同構成了我們機器學習當中所需要的線性代數。

然後我們說一下概率統計，在評價過程中，我們需要使用到概率統計。概率統計包括了兩個方面，一方面是數理統計，另外一方面是概率論。一般來說數理統計比較好理解，我們機器學習當中應用的很多模型都是來源於數理統計。像最簡單的線性回歸，還有邏輯回歸，它實際上都是來源於統計學。在具體地給定了目標函數之後，我們在實際地去評價這個目標函數的時候，我們會用到一些概率論。當給定了一個分布，我們要求解這個目標函數的期望值。在平均意義上，這個目標函數能達到什麼程度呢？這個時候就需要使用到概率論。所以說在評價這個過程中，我們會主要應用到概率統計的一些知識。

最後我們說一下最優化理論，其實關於優化，就不用說了，我們肯定用到的是最優化理論。在最優化理論當中，主要的研究方向是凸優化。凸優化當然它有些限制，但它的好處也很明顯，比如說能夠簡化這個問題的解。因為在優化當中我們都知道，我們要求的是一個最大值，或者是最小值，但實際當中我們可能會遇到一些局部的極大值，局部的極小值，還有鞍點這樣的點。凸優化可以避免這個問題。在凸優化當中，極大值就是最大值，極小值也就是最小值。但在實際當中，尤其是引入了神經網路還有深度學習之後，凸優化的應用范圍越來越窄，很多情況下它不再適用，所以這裡面我們主要用到的是無約束優化。同時，在神經網路當中應用最廣的一個演算法，一個優化方法，就是反向傳播。

『貳』 機器學習實戰怎麼樣

為什麼我會力薦這本書？ 也許書中分類器都非常的簡單，數學理論都非常的粗淺（為了看明白書中SVM分類器的訓練過程，不得不去復習了二次凸優化解法，自己推導被作者略去的中間過程），演算法測試也只在輕量級的數據集上完成。 不過，大可不必像其他評論一樣對貶低本書。聰明的讀者會知道自己沒有什麼，自己需要學習什麼。如果更加喜歡背後深奧的統計學理論和凸優化理論，可以去看《Machine Learning: A Probabilistic Perspective》，如果對自己的數學水平足夠自信的話。 這本書能讓你明白： 那些被吹捧得出神入化的分類演算法，竟然實現起來如此簡單； 那些看是高深的數學理論，其實一句話就能道明其本質； 一切復雜的事物，出發點都是非常簡單的想法。 我說不出這本書適合什麼樣的讀者，但是卻明白它不適合誰： 學過一點機器學習或者模式識別或者數據挖掘，完全不具備統計推斷和凸優化知識，又想找一條捷徑，想從菜鳥搖身一變成大師的人； 對編程不感興趣的人，或者沒有動手實踐習慣的人； 不喜歡獨立思考，希望別人把答案擺在自己面前的人。 祝君學運昌盛

『叄』 二次凸優化問題的研究概況

在美國經濟減速、日本經濟下滑等全球經濟增長速度明顯放慢的大環境下，我國經濟形勢仍保持了良好的運行態勢。經濟運行質量繼續提高， GDP穩定增長，外需依賴度減弱，市場物價平穩，企業效益明顯，國際收支狀況良好，貨幣供應量增長適當，國內市場銷售比較活躍，固定資產投資增長加快，城鄉居民收入繼續增長。國務院關於今年經濟工作的總體指標部署基本能得到落實，國家宏觀調控的作用日益顯現，尤其是積極財政政策所帶來的經濟效益明顯增強。
下半年經濟走勢及全年經濟發展趨勢展望
由於受世界經濟增長持續減慢的因素影響，我國在下半年經濟運行中的不確定因素將增多，經濟增長的難度也將增大。下半年我國國民經濟增速有可能進一步減緩， GDP增速可能比上半年繼續有所回落，全年經濟增長可能呈現「前高後低」的走勢。下半年以及全年的經濟走勢可能呈現以下幾個方面的趨勢：
——固定資產投資仍將保持快速增長的態勢。隨著去年下半年增發的 500億元和今年發行的 1500億元國債資金的到位，加之利用外資的持續增長，固定資產投資仍將保持快速增長的態勢。預計全年社會固定資產投資的增速仍將保持在 10.5％左右。
——國內消費仍將保持穩定增長。隨著機關事業單位工作人員工資和離退休人員離退休金政策的逐步到位，以及住房、汽車、旅遊等消費信貸政策的逐步啟動，國內消費仍將保持穩定增長，預計全年社會消費品零售額增速可達 10％左右。
——工業生產增速繼續回落。受外需減弱的影響，下半年工業生產增速將繼續回落。預計全年工業增加值增速可達 9％以上，工業實現利潤將維持去年的水平。
——農業生產將受影響。農業因受北方乾旱、夏糧減產和糧食播種面積減少等方面因素的影響，全年農業增加值增幅將在 2.5％左右。目前夏糧減產已成定局，預計產量為 2038億斤，比上年減產近 100億斤，同比減幅約為 4.6％。夏糧減產的主要原因是播種面積減少，據初步統計，今年夏糧播種面積為 4.24億畝，比上年減少 2000多萬畝，減幅約為 4.5％。
——出口增速將繼續回落。由於美日經濟下滑局面短期內難以改變以及東南亞國家的貨幣大幅貶值，將造成我國出口增速繼續下滑。上半年我國接到的出口訂單已比上年同期大幅減少，預計全年貿易順差將比上年減少 50億美元以上。
——財政支出將面臨較大壓力。由於受外部需求減弱的影響，全年財政收入增幅將出現「前高後低」的態勢。「兩稅」（增值稅和消費稅）增幅已出現逐月放緩的情況， 2月份「兩稅」增長為 42.5％，到 5月份已降為 17.4％。雖然預計全年財政收入將達到 15650億元，同比增幅將達到 17％左右，增收 2270億元，但是，財政增收總額中的不可比客觀因素較多。如從今年起將車輛購置由收費改為征稅從而增加稅收 230億元，國有企業股減持上繳社會保障基金增加收入 150億元等等，若扣除這些因素，按可比口徑計算，預計全年財政收入增幅將達到 14％左右，同比增幅將回落近 3個百分點；同時，中央財政下半年的剛性財政支出將加大。據統計，下半年需在預算之外增加國有企業關閉破產補助 140億元，調整職工工資需增加 160億元，處置陳化糧增加糧食風險基金 30億元，補助社會保障改革試點地區需支出 20億元等等，這些都加大了下半年財政支出的壓力。
總之，從下半年以及全年的經濟走勢來看，實現既定的經濟增長目標並不輕松。但只要國家及時調整有關政策，進一步採取擴大內需的有力措施，將會使外需減弱的部分損失得到一定的彌補。如果世界經濟不再繼續減速，全年經濟增長 7％的預期目標是可以實現的。
目前經濟運行中存在的主要問題
盡管我國上半年各項經濟指標總體運行狀況較好，經過努力，全年經濟增長的目標也會如期實現。但是，我國經濟發展中一些深層次矛盾和社會總供給結構性過剩的問題並未得到根本解決，經濟發展和需求增長的內在動力仍然不足。目前經濟運行中存在的主要問題有 3個方面：
1、推動經濟增長的主要動力是政府行為，市場機制的內在推動力不足
從出口、消費和投資三大需求驅動經濟增長的因素看，今年上半年經濟增長的主要因素是政府固定資產投資的拉動，即主要靠政府政策性投資行為的推動，市場機制的內在驅動因素較少。政府行為拉動經濟增長的具體體現是：積極的財政政策使充足的國債資金對固定資產投資繼續保持著較大的推動經濟增長的作用，上半年全社會固定資產投資增速高於上年同期 15.1個百分點。其中：一是國債技改投資貼息措施的實施使國有企業更新改造投資大幅度增長，更新改造投資增長了 26.9％，增幅比上年同期提高了 4個百分點；二是住房分配體制改革的深入推進，繼續刺激房地產投資的持續高速增長，上半年房地產開發投資增長了 28.2％，增幅比去年同期提高了 5.8個百分點；三是基本建設投資大幅增長。上半年基本建設投資增長了 11.8個百分點，增幅比去年同期提高了 5.2個百分點；同時，西部地區由於受西部大開發政策的驅動，上半年投資增長了 28.8％，分別比東部和中部地區高 10.5和 11個百分點。這些狀況一方面說明政府主導型的投資增長格局仍未根本改變，另一方面也反映出經濟增長對政府政策性投資的依賴過大，社會投資明顯不足。上半年城鄉集體和個體投資僅增長了 7.5％，投資增速比去年同期略有回落，比國有及其他投資低 10.4個百分點。如果經濟增長過度依賴政府政策性投資而脫離市場經濟發展的內在需求，一旦將來國債投資下降，民間投資卻未能及時啟動，我國經濟增長將後勁不足，難以形成高質量持續增長的態勢。
2、外貿進出口呈減速趨勢，外需對經濟增長的拉動作用明顯減弱
從目前我國的貿易狀況看，今年出口增幅下降已成定局，出口對經濟增長的拉動作用也明顯減弱。上半年，我國外貿出口增速與去年同期相比已減少了 29.5個百分點， 6月份出口繼續回落。今年第一季度由於出口增勢減緩，凈出口增加額對 GDP增長的貢獻率已是－ 0.22。外貿出口增幅下降的主要原因有 4點：一是受世界經濟減速的影響。上半年，我國對主要貿易夥伴的出口增幅已全面回落，從國別和地區看，對香港、美國、日本、東盟、歐盟的出口分別比上年同期回落了 34.1、 24.4、 20.6、 43.6和 29.1個百分點。尤其是今年 5月份，對我國最大的出口市場——美國的出口增長為零。二是出口企業的積極性減弱。目前我國外貿出口的綜合退稅率已達 15％，進一步提高出口退稅率的空間已經不大，加之國家退稅額度不足和退稅進度遲緩等問題，導致出口企業資金緊張的問題十分突出，目前出口企業已出現有訂單、無資金、出口業務無法正常運作的現象。今年 5月份，全國所辦理的出口退稅額同比下降了 14.4％，其中上海、江蘇和浙江 3個退稅大省的降幅分別達到 81.2％、 94.4％和 100％，嚴重影響了企業出口積極性。三是加工貿易分類管理辦法不完善，深加工結轉政策不明朗，對加工貿易出口影響較大。 1－ 5月份，加工貿易出口僅增長 0.03％。目前加工貿易占我國出口貿易的 54％，我國外匯結售匯增量的 90％來自於外商投資企業，而外商投資企業 80％是搞加工貿易的。四是我國的紡織品、服裝、箱包、鞋類等傳統產品出口競爭力下降，其主要因素是東南亞、日、韓等我國周邊國家和地區的匯率大幅貶值，今年 6月與去年同期相比，貶值幅度大多在 15－ 30％，使我國的傳統出口產品在激烈的國際市場競爭中相對處於劣勢。這些問題不僅影響今年下半年的出口增長，而且將成為今後我國出口增長的一大「瓶頸」。
3、通貨緊縮的狀況沒有大的改變，有效需求不足的矛盾依然突出
今年上半年，我國的內需增長雖比較平穩，但國內市場價格上漲的主要因素是由政策調價和國家石油價格上漲等因素所致，市場供求關系的自發性作用不明顯。目前絕大多數的工業產品仍供過於求，價格繼續走低。 1－ 5月份，工業品出廠價格的增幅比上年同期回落了 1.1個百分點，原材料、燃料和動力等購進價格的增幅也比上年同期回落了 2.2個百分點。我國經濟發展中一些深層次矛盾和社會總供給結構性過剩的問題並未得到根本解決。預計短期內我國工業消費品市場的價格增幅難以止降回升，工業消費品生產能力過剩的狀況短期內也不會得到根本改變。
從上半年國內市場消費的走勢來看，消費品市場比較活躍主要也是政策性因素的作用。如公務員和企事業單位工資的增加拉動了消費的較大增長；費改稅在農村試點的擴大緩解了農村居民人均純收入同比增幅的下滑；住房、汽車和教育等個人消費信貸的持續增加帶動了消費品市場的增長。今年 1－ 4月份，個人中長期貸款同比多增了 536億元，占金融機構中長期貸款新增額比重的 49.4％。由於這些政策性因素的主導，才促進了消費品市場的持續增長，國內消費品市場需求的市場驅動力仍然不足。若排除政策性不可比因素，消費價格總水平則是負增長。 1－ 5月份，商品零售價格下降 0.6％，食品、服裝、家庭設備用品以及服務、交通、通訊等價格仍在繼續下降。尤其是空調、行動電話等利潤空間較大的產品由於激烈的市場競爭價格下降更為明顯。這種趨向預示，社會消費品市場需求仍存在著後勁不足的危機。
影響居民消費需求的主要因素：一是上半年城鎮居民可支配收入同比雖然增長 5.3％，但增速比上年同期還是有所回落。二是城鎮居民消費傾向沒有繼續上升的趨勢。表現在：（ 1）城鎮就業壓力增大，結構調整使下崗職工人數繼續增加。上半年在崗職工同比減少 506.2萬人，下崗職工人數繼續增加。（ 2）由於社會保障制度改革引起的不確定因素使居民的安全感下降，造成居民預期收入的不穩定性增加。（ 3）由於城鎮居民貸款買房和教育等方面開支的加大，使大多數城鎮居民消費潛力空間縮小，城鄉居民儲蓄存款下降。今年 3－ 5月，城鄉居民儲蓄的同比增長速度已呈現逐月下降的趨勢，從 1.5％下降為 0.7％再下降為 0.0％。三是農民增收困難。由於國家對農村市場開拓不夠，使農副產品收購價格繼續下降，農副產品收購價格已連續 5年下降，降幅累計達 25.7％，導致從事農業生產的農民純收入連續 3年降低，農村人均純收入增速連續 5年下降。今年的夏糧減產更進一步加重了農民增收的困難。以上這些因素都嚴重影響了城鄉居民消費能力的擴大。因此，有效需求不足仍是制約當前經濟發展的重要因素。
加速經濟發展和提高經濟運行質量的政策措施
世界經濟減速，尤其是美國經濟趨緩、日本經濟下滑雖對我國的經濟發展造成了不利的影響，但同時也給我國帶來了難得的機遇。一方面是國際資本目前正大量向發展中國家流動。上半年，外國對華投資以及港台地區對內地投資已呈現恢復性增長態勢，外資和港澳台實際投資額增幅為 20.5％。 1－ 5月份，日本投資增幅為 40.3％，高於全國同期增幅 22.41個百分點；台灣增幅為 27.32％，高於全國同期增幅 9.34個百分點；香港增幅為 11.1％。另一方面我國市場需求空間大、機會多。 1993年以來，我國物價從負增長到正增長一直很穩定，形勢發展勢頭較好，近年內不會出現通貨膨脹。我們應該抓住這一擴大需求的機遇，加大政策調整力度。具體政策措施如下：
1、進一步擴大內需，重點擴大消費。首先應加快出台鼓勵消費的政策，加大消費信貸對消費增長的促進作用，培育汽車、旅遊等新的消費增長點。其次應加大調整收入分配結構，尤其是加大國家二次分配的調控力度。通過稅收調整高收入階層的收入，加快增加下崗職工等低收入群體的收入。第三應加速完善社會保障功能，加大國家財政對社會保障資金的支出，建立社會保障體系的專項國債，實行社會保障資金國家統籌，通過轉移支付的方式向貧困地區、低收入群體傾斜，以使國家有限的社會保障資金產生最大的消費增長效用。
2、在繼續實施積極的財政政策中調整投資結構。國家在投資中應堅持總量控制，堅決遏制重復建設，擴大國債刺激需求的作用，增加國債貸款貼息的使用范圍；同時應加快調整投資結構和財政資金（國債）的投入使用方向，使投資重點向 8個方面轉移：即從基礎設施向產業升級轉移；從擴大投資向擴大消費轉移；從投資城市向投資農村轉移；從提高國家公務員的收入向提高農民收入轉移；從減輕工業負擔向減輕農業負擔轉移；從支持國有大企業向扶持中小企業轉移；從政府直接投入向培育市場機制轉移；從短期投資效應向長期投資效應轉移。
3、加快投融資體制改革。按 WTO的准則擴大市場准入，發展資本市場，擴大直接融資，建立風險投資基金，盡快開創創業版市場；同時大力啟動社會投資，加大社會投資對經濟增長的拉動作用，並出台實施鼓勵社會投資的稅收政策，對投入到國家鼓勵發展的產業、項目和產品的社會投資資金，應給予全免或減免企業和個人所得稅。 4、加大對出口企業和產品的支持力度，促進出口快速增長。應進一步調動出口企業的積極性，採取有力的短期措施刺激出口的增長，尤其對具有較強競爭力的傳統勞動密集型大宗商品的出口應實行特殊的出口鼓勵政策，不僅要加大出口退稅的額度、加快出口退稅的進度，同時應加大對出口信貸的支持。
5、加快農業產業化進程，增加農民收入。目前農民收入增幅連年下降、農村消費增長緩慢已成為制約我國經濟增長的重要因素。制約農民收入增長的主要原因是農產品價格大幅下跌。因此，採取有力措施穩定農產品價格是穩定農村收入的當務之急和權宜之計。從國外經驗來看，幾乎所有的發達國家均在不同程度上對農業生產進行補貼或對農產品實行保護價政策；而我國目前對農產品價格缺乏保護，加之農民稅費負擔過多過重，導致農民收入增幅連年下降。為了改變這種狀況，建議國家在適當時機取消農業稅，給農民休養生息的喘息機會，或者將全部農業稅的收入設立農副產品的價格保護基金，以確保農副產品收購保護價的實施，保障從事農業生產的農民收入穩定增長；同時應大力扶持農村的龍頭企業，以龍頭企業帶動農村的相關產業，擴大農村勞動力的就業，以增加農民收入。據統計，近年農民收入增長的主要因素來自於農民打工的收入。因此，加快農業的產業化和農村城鎮化的進程，加大對農村基礎設施建設的投入是未來農民收入增長的根本出路。
6、加大扶持中小企業的力度。目前我國中小企業流動資金的極度短缺已嚴重製約了的中小企業的發展，因此國家應加大對中小企業的扶持力度，進一步擴大對中小企業貸款的利率浮動幅度，調動銀行對中小企業貸款的積極性，滿足中小企業的正常貸款需求。

『肆』 如何學習凸優化課程

[book-optimization.rar]-這是一本講解最優化的書籍，是全英文的。這是一部經典的外國教材，對最優化問題闡述的非常之精闢[Optimal.rar]-幾個凸優化函數，用於解決非約束和帶約束條件的凸優化問題[stanford_convex_optimization_book.rar]-國外的經典的有關於凸優化數學方面的教材，值得研究有關優化方面的研究者學習[convex_analysis_foundation.zip]-凸分析基礎中文教材。純粹這方面的資料不多（多為凸優化之類），中文的書籍更難找，有用該方面知識的同行多多交流。[ConvexOptimization.rar]-凸優化問題經常出現在許多不同的領域。全面介紹了主題，這本書展示了如何解決這些問題都可以高效率地詳細數字。其重點是識別凸優化問題，然後找到解決他們最合適的技術。文本包含許多實例和作業練習，並會提出問題，如工程，計算機科學，數學，統計，金融，經濟領域的學生，研究者和實踐者。[cvx.zip]-斯坦福大學凸規劃的程序，很經典，多次在IEEE的文章中出現[convex_optimization.rar]-凸優化程序包，包含各種凸優化演算法,可供方便調用.[signal_decomposition_by_bp.rar]-基於基追蹤（basispursuit）對信號進行稀疏表示的演算法[cvx.zip]-凸規劃建模系統,包含用戶手冊，有助於學習壓縮感知。[grads.rar]-最優化理論與演算法（第2版）這本書中的課後作業。用C實現的一些具體演算法。

『伍』 誰懂利用CVX優化方面的知識，比如簡單說一下CVX的凸優化原理，或者提供一些資料，非常感謝，有用再加分

[ book-optimization.rar ] - 這是一本講解最優化的書籍，是全英文的。這是一部經典的外國教材，對最優化問題闡述的非常之精闢 [ Optimal.rar ] - 幾個 凸優化 函數，用於解決非約束和帶約束條件的凸優化問題 [ stanford_convex_optimization_book.rar ] - 國外的經典的有關於 凸優化 數學方面的教材，值得研究有關優化方面的研究者學習 [ convex_analysis_foundation.zip ] - 凸分析基礎 中文教材。純粹這方面的資料不多（多為 凸優化 之類），中文的書籍更難找，有用該方面知識的同行多多交流。 [ ConvexOptimization.rar ] - 凸優化 問題經常出現在許多不同的領域。全面介紹了主題，這本書展示了如何解決這些問題都可以高效率地詳細數字。其重點是識別凸優化問題，然後找到解決他們最合適的技術。文本包含許多實例和作業練習，並會提出問題，如工程，計算機科學，數學，統計，金融，經濟領域的學生，研究者和實踐者。 [ cvx .zip ] - 斯坦福大學凸規劃的程序，很經典，多次在IEEE的文章中出現 [ convex_optimization.rar ] - 凸優化 程序包，包含各種凸優化演算法,可供方便調用. [ signal_decomposition_by_bp.rar ] - 基於基追蹤（basis pursuit）對信號進行稀疏表示的演算法 [ cvx .zip ] - 凸規劃建模系統,包含用戶手冊，有助於學習壓縮感知。 [ grads.rar ] - 最優化理論與演算法（第2版）這本書中的課後作業。用C 實現的一些具體演算法。

『陸』 數據分析軟體有哪些

數據分析軟體有Excel、SAS、R、SPSS、Tableau Software。

1、Excel

為Excel微軟辦公套裝軟體的一個重要的組成部分，它可以進行各種數據的處理、統計分析和輔助決策操作，廣泛地應用於管理、統計財經、金融等眾多領域。



5、Tableau Software

Tableau Software用來快速分析、可視化並分享信息。Tableau Desktop 是基於斯坦福大學突破性技術的軟體應用程序。它可以以在幾分鍾內生成美觀的圖表、坐標圖、儀表盤與報告。