西蒙斯的赚钱秘籍隐马尔科夫模型(HMM)的择时应用

西蒙斯的赚钱秘籍：隐马尔科夫模型（HMM）的择时应用之前做过相关方面的研究，针对的是国外的期货市场。也有朋友建议说拿A股来试试看。所以有了下面的这篇东西。扯上西蒙斯前辈，是因为确实不少猜测认为文艺复兴用的就是HMM模型。一、从大奖章讲起Renaissance&Medallion（文艺复兴科技和大奖章）量化圈都非常熟悉了。Simons一群物理学家和数学家碰撞在一起，1989年到2008年的yearlyreturn达到35.6%。文艺复兴大概一百多个员工，AUM：50亿美金，在全球金融危机的08年，大部分对冲基金都亏损，而大奖章的return高达80%。神秘的文艺复兴科技和神秘的大奖章基金，到底一群数学家和物理学家聚在一起搞出了什么赚钱利器？外界猜测众说纷纭。而隐马尔科夫模型也由于一些原因被推举出来。成立初期的创始人中，有一位科学家发明了广泛应用在语音识别等领域的鲍姆-威尔士算法，用来确定不可确知的变量可能出现的概率。今天要介绍的HMM模型，也是在语音识别中运用非常成功的模型，最早是由鲍姆等人提出的。之前拜读人大的一位教授14年写的一本书，解密复兴科技：基于隐蔽马尔科夫模型的时序分析方法，书中介绍了为什么觉得HMM是Renaissance使用的模型，并且含有详细的公式推导和运算，以及附上了一些些实证结果（个人认为还有很多有待补充和粗糙的地方）。感兴趣推荐研读。二、认识模型HMM模型，又叫隐马尔科夫模型。要正确的理解和搞懂模型，教材里有很多经典的例子。我从自己理解后的角度尽量浅显的给大家做一个解释，方便大家快速理清概念投入应用。我们能观测到的序列（Y1,...,Yn）称为可观测序列，如股价，成交量，资金净额等等。而每一个可观测值的产生对应着市场状态序列（Z1,...,Zn），每个状态通过不同的分布函数来产生观测值。通过HMM模型，可以用简单的输入，来得出对目前市场状态的判断，从而帮助我们进行择时选择。因为市场状态不是显性可观测的，属于隐藏状态，我们通过对可观测变量的处理来进行推测。这里对HMM模型进行了扩展得到HMS-GMD模型，因为收益率序列尖峰厚尾的特性导致的非正态分布，引入了混合高斯分布作为状态到观测值之间产生关系的分布函数。将HMM模型看作一个黑箱子，这个黑箱子可以利用极其方便、简洁的数据，处理后得出：1.每个时刻对应的状态序列；2.混合分布的均值和方差矩阵；3.混合分布的权重矩阵；4.状态间转移概率矩阵。而黑箱子需要事先给定两个参数：状态数目、混合高斯分布的成分数目。当然，输入这里是拿单一的价格序列举例。输入也可以是并行的数据矩阵，比如从价格、成交量、资金净额等多个角度来看。总结一下，使用模型需要在初期设定：1.隐藏状态数目2.输入的观测变量3.混合高斯分布成分数目三、A股市场实证下面拿A股市场来做检验。模型的设定如下：1.隐藏状态数目：62.输入变量：当日对数收益率，五日对数收益率，当日对数高低价差（其他备选因素成交量、成交额等大家可以自行尝试）3.混合高斯分布成分数目：1（为了简便，假定对数收益率服从单一高斯分布）In[1]:fromhmmlearn.hmmimportGaussianHMMimportdatetimeimportnumpyasnpimportpandasaspdimportseabornassnsfrommatplotlibimportcmfrommatplotlibimportpyplotstartdate='2012-06-01'enddate='2016-04-07'df=get_price(['000300.XSHG'],start_date=startdate,end_date=enddate,frequency='daily',fields=['close','volume','high','low'])close=df['close']['000300.XSHG']high=df['high']['000300.XSHG'][5:]low=df['low']['000300.XSHG'][5:]volume=df['volume']['000300.XSHG'][5:]money=df['volume']['000300.XSHG'][5:]datelist=pd.to_datetime(close.index[5:])logreturn=(np.log(np.array(close[1:]))-np.log(np.array(close[:-1])))[4:]logreturn5=np.log(np.array(close[5:]))-np.log(np.array(close[:-5]))diffreturn=(np.log(np.array(high))-np.log(np.array(low)))closeidx=close[5:]X=np.column_stack([logreturn,diffreturn,logreturn5])len(X)Out[1]:931In[2]:hmm=GaussianHMM(n_components=6,covariance_type='diag',n_iter=5000).fit(X)latent_states_sequence=hmm.predict(X)len(latent_states_sequence)Out[2]:931In[3]:sns.set_style('white')plt.figure(figsize=(15,8))foriinrange(hmm.n_components):state=(latent_states_sequence==i)plt.plot(datelist[state],closeidx[state],'.',label='latentstate%d'%i,lw=1)plt.legend()plt.grid(1)Out[3]:以上。我们看到了六个状态的HMM模型输出的市场状态序列。需要注意的是：HMM模型只是能分离出不同的状态，具体对每个状态赋予现实的市场意义，是需要人为来辨别和观察的。下面我们来用简单的timming策略来识别6种latent_state所带来的效果。In[4]:data=pd.DataFrame({'datelist':datelist,'logreturn':logreturn,'state':latent_states_sequence}).set_index('datelist')plt.figure(figsize=(15,8))foriinrange(hmm.n_components):state=(latent_states_sequence==i)idx=np.append(0,state[:-1])data['state%d_return'%i]=data.logreturn.multiply(idx,axis=0)plt.plot(np.exp(data['state%d_return'%i].cumsum()),label='latent_state%d'%i)plt.legend()plt.grid(1)Out[4]:上图可以看出：1.状态0——蓝色——震荡下跌2.状态1——绿色——小幅的上涨3.状态2——红色——牛市上涨4.状态3——紫色——牛市下跌5.状态4——黄色——震荡下跌6.状态5——浅蓝色——牛市下跌以上的意义归结是存在一定主观性的。因为HMM模型对输入的多维度观测变量进行处理后，只负责分出几个类别，而并不会定义出每种类别的实际含义。所以我们从图形中做出上述的判断。四、择时策略我们根据模拟出来的隐藏状态，来进行择时。（1）理论版：股指期货可卖空。策略是这样设计的：1.当天处在状态0，3时，买入指数基金；2.当天处在状态1，2，4，5时，卖空股指期货；我们来看一下收益效果：4年7倍。In[5]:buy=(latent_states_sequence==1)+(latent_states_sequence==2)buy=np.append(0,buy[:-1])sell=(latent_states_sequence==0)+(latent_states_sequence==3)\+(latent_states_sequence==4)+(latent_states_sequence==5)sell=np.append(0,sell[:-1])data['backtest_return']=data.logreturn.multiply(buy,axis=0)\-data.logreturn.multiply(sell,axis=0)plt.figure(figsize=(15,8))plt.plot_date(datelist,np.exp(data['backtest_return'].cumsum()),'-',label='backtestresult')plt.legend()plt.grid(1)Out[5]:（2）A股版鉴于卖空指数对散户来说没什么可操作性，我们单看能做多的A股市场。选择嘉实沪深300基金来复制沪深300指数。策略是这样设计的：1.当天处在状态0，3时，买入指数基金；2.当天处在状态1，2，4，5时，空仓；看一下回测效果回撤和收益都看起来很漂亮。虽然我也没太懂为什么跟可卖空的结果差不多==，可能是单纯算收益率的伪回测不太准吧。第二是状态5（浅蓝色）有涨有跌，卖空它也有亏钱的时候。五、最后的结论搞量化的小伙伴们每每总是以为发现了『天上掉钱』的秘籍法宝，但仔细想想每一个模型都不是那么简单的。而且相信一部分人已经反映过来了，这是个In-Sample的测试，模型是根据全部时间段的数据得出状态序列的。也就是，天然的，我们就提前知道了什么时候涨跌。简单说，有未来函数。但是，这不能否认模型优秀的模式识别能力。接下来要做的，是真正的分开In-Sample和Out-Sample来做回测。用一段时间训练得到的模型参数来分析之后一段时间的市场状态。本文意在抛砖，大神们一起来研究HMM吧。