Saturday 16 September 2017

Byggnad Automatiserad Handel System Java


Välkommen till Home of Open Java Trading System Open Java Trading System (OJTS) är tänkt att vara en gemensam infrastruktur för att utveckla aktiehandelssystem. Den består av fyra delar: Sammanställning av rådata via internet erkänner handel signalerar en visualiseringsmodul och moduler för att ansluta till de programmatiska gränssnitten för handelsplattformar som banker. Projektets mål är att tillhandahålla en självständig ren Java (plattform oberoende) gemensam infrastruktur för utvecklare av handelssystem. Några av de aspekter som bör åtgärdas är att tillhandahålla ett gemensamt SQL92-kompatibelt databasschema för lagring av finansiella data, vanliga Java-gränssnitt för hur man byter data mellan olika moduler, visualisering av råa finansiella data och handelssignaler och flera andra gemensamma aspekter som behövs för att skapa ett slutligt handelssystem. På grund av jobbet och familjen kan jag inte hitta tid att förbättra OJTS längre. Jag fortsätter att uppdatera länkavsnittet nedan som leder dig till mer aktiva java-open source-projekt på det området. I själva verket till följd av mitt intresse för aktiemarknadernas dynamik började jag en resa till de djupare detaljerna i nationalekonomin för att förstå valutakurser. Detta ämne leder mig slutligen till en djupare studie av pengar i sig som den metriska enhet som vi använder i ekonomin för att mäta värde, framgång eller nytta. Det här ämnet visade sig vara mycket intressant men samtidigt var det väldigt svårt att hitta någon information om hur vårt monetära system fungerar. Gå runt och fråga människor där pengar kommer ifrån, vem skapar det och vad som bestämmer sitt värde. Du kommer att märka att även de personer som har en magisterexamen eller Phd. i ekonomi kommer inte att veta dessa detaljer. Åh ja, de kommer att svara i vissa kryptiska tekniska termer, men de kommer inte att kunna rita ett enkelt diagram som beskriver processen. H. G. Wells har rapporterats ha sagt: Att skriva av valuta är allmänt erkänd som en anstötlig, faktiskt nästan oanständig, övning. Redaktörer kommer att bära författaren nästan tårt att inte skriva om pengar, inte för att det är ett ointressant ämne, men för att det alltid har varit en djupt störande. Jag föreslår att någon som bor i ett demokratiskt samhälle läser om detta ämne. Det påverkar våra liv varje dag i en utsträckning som inte kan överdrivas. Enligt min mening borde varje medborgare i ett demokratiskt land på den världen veta var våra pengar kommer ifrån. Mest troligt kom du till den här webbplatsen för att leta efter verktyg som hjälper dig att öka din monetära förmögenhet. För att förstå den metriska enheten pengar (oavsett om Dollar eller Euro) kommer att vara en viktig ingrediens i din verktygslåda för att tjäna pengar. Om du har lite tid och bara har råd att läsa en enda bok om det ämnet föreslår jag att du läser rikedom, virtuell rikedom och skuld av Frederick Soddy. Jag kunde köpa en begagnad kopia via Amazon för 23.48, men det finns också en online-version. Du behöver DjVu-plugin för att läsa den. Denna bok publicerades ursprungligen år 1929, men beskriver fortfarande de faktiska fakta mycket bra. Även om jag inte håller med alla slutsatser av Frederick Soddy är hans arbete trevligt tankeväckande och leder dig att ställa rätt frågor. N e w s Utgivningar, Buggfixar och uppdaterad dokumentation Tillkännagav upphävandet av aktiv utveckling och lagt till referenser till information om våra monetära system (DollarEuro). Lades till en länksektion till andra intressanta java trading system projekt. Jag undersöker hur man gör OJTS mer kompatibla med andra java trading system ansträngningar. Investment and Trading System Documentation Project finns på ITSdoc. org. Det finns en ny wiki på ITSdoc. org med inriktning på kunskapsfördelning inom investerings - och handelssystemens område. Idén bakom ITSdoc. org är att ha en samarbetsplattform liknande wikipedia som hjälper samhället att dela med sig av kunskap. OpenJavaTradingSystem v0.13 släpptes. Igår släppte jag Version 0.13 i OpenJavaTradingSystem-biblioteket. Bland de nya funktionerna finns: Datahämtning för aktier, fonder och valutor från OnVista. Genomförande av valutahantering och omvandlingar. Portföljer implementeras och du kan arbeta med portföljer på samma sätt som med enstaka säkerhetspapper. Lagt till en generell ram för att tillämpa algoritmer på börser i tidsserier. Bytt från SISCScheme interaktivt skal till ABCLCommonLisp plus dess redaktör som heter J. Tillagt en generell datakachemekanism för att cachera data som redan hämtats över webben i filsystemet. Plus många fler mindre förbättringar Om du är intresserad av den här nya versionen bör du börja på snabbstartskärmen. Handboken är ännu inte uppdaterad men det kan ändå ge dig värdefull bakgrundsinformation om du vill använda biblioteket i ditt projekt. Dokumentationen bör uppdateras snart. För närvarande är det inte mycket utveckling gjort, för jag uppgraderar min kunskap om bayesiska nätverk. Se till exempel listan över böcker på min hemsida. Två mycket intressanta projekt i den delen är WEKA och BNJ. Snart fortsätter jag utveckling och jag börjar integrera den första intelligensen i systemet. Idag lägger jag den första utgåvan i filsektionen i sourceforge-nedladdningsområdet. Förutom att jag uppdaterade manualen för att dokumentera den interaktiva användningen av projektet via SISC-schemanlagret. För de otåliga är här en snabbstartskärmavsnitt för att komma igång. D o k u m e n t i o n Dokument som beskriver projektets invändiga delar. Java Data Objects and Interface dokumentation gtgtHTML gtgtPDF Användningsdokumentation gtgtHTML gtgtPDF Investerings - och handelssystem Dokumentationsprojekt gtgtITSdoc. org T echnology Tredje parts byggnadsblock som används i detta projekt HSQL Database Engine (licens: hsqldblic. txt) HSQLDB är databasmotorn levererad med projekt så att du omedelbart kan börja använda OJTS utan att installera en tredje part databas. Men om du planerar att använda en annan SQL92-kompatibel databas är det här ett konfigurationsalternativ. Castor (licens: The Exolab License) Castor är en öppen källkodsbaserad ram för Javatm. Det är den kortaste vägen mellan Java-objekt, XML-dokument och relationsdatabaser. Castor ger Java-till-XML-bindning, Java-till-SQL-persistens och mycket mer. Castor Doclet (licens: GNU LGPL v2.1) Java doclet för att generera både kartläggning och DDL-filer för Castor JDO och Castor XML. TestMaker (licens: TestMaker Open Source License) Från TestMaker-projektet används endast implementering av protokoll som HTTP eller HTTPS för att samla data från webben. jCookie (licens: GNU LGPL v2.1) Biblioteket jCookie är nödvändigt för att TestMaker-biblioteken ska fungera. htmlparser (licens: GNU LGPL v2.1) Htmlparser-biblioteket används för att extrahera data från webresurser. ABCLCommonLisp (licens: GNU GPL v2) ABCL (Beväpnad Bear Common Lisp) används för att implementera det algoritmiska hjärtat av projektet i ANSI Common Lisp programmeringsspråk. JFreeChart (licens: GNU LGPL v2.1) JFreeChart används för visualisering av finansiella data som diagram. JSci (licens: GNU LGPL v2.1) JSci - En vetenskaps API för Java. Joda Time (licens: Home grown OpenSource-licens) Joda Time ersätter de ursprungliga JDK-datum och tidsklasserna. Länkar Länkar till andra projekt GoogleTraders Google-grupp kan vara den bästa posten för dig att ta reda på andra Java-baserade handelssystem och verktyg. L icense Användarvillkor Projektets kod är licensierad enligt villkoren i LGPL och all dokumentation som du hittar i detta projekt är licensierad enligt villkoren i FDL. Denna översyn är mer en pekare till värdefulla begrepp plus en länk till ett mycket intressant vitpapper som alla finns på Tridium Inc webbplats. Bajas rörelse har potential att definiera applikationsmiljön för byggautomatisering med specifikationer som beskriver en uppsättning Java API och XML scheman för interoperabla styrsystem applikationer. Baja JAVA Architecture Standard Baja (Building Automation Java Architecture) är en standardinsats med uppgiften att skapa en öppen, Java-plattform för byggautomatiseringsmarknaden. Baja är en serie av komponentprogramvaror utformade från dag ett för att dra nytta av Internetets kraft, stödja sant plug-and-play och möjliggöra fullständig multiverkoperinteroperabilitet. Genom att använda Java API och XML-scheman möjliggör Baja utvecklare att konvergera protokoll och kommunikationsstandarder för flera leverantörer med Internetteknologi till en enda universell standard och anpassa dem till en öppen, driftskompatibel miljö. Resultatet är en lösning som låser upp möjligheterna hos smarta enheter och Internet på sätt som tidigare oöverträffliga, samtidigt som det ger betydligt lägre kostnader för automatisering och informationsinfrastruktur. Expertgruppen Shepherding Baja genom standardprocessen består av många av de stora aktörerna inom automationsindustrin. De omfattar: Tridium, Inc. Johnson Controls Sun Microsystems Yamatake Invensys Echelon Honeywell CPC (Emerson Electric) Siemens Building Technologies Trane Company Bajas-rörelsen har potential att definiera applikationsmiljön för byggautomatisering med specifikationer som beskriver en uppsättning Java API och XML-scheman för driftskompatibla kontrollsystem applikationer. Den definierar en standard Java-arkitektur för programmerbara kontroller, en gemensam komponentarkitektur som möjliggör driftskompatibilitet mellan multivendorprogramvara och heterogena enheter, en modell som enkelt används av icke-programmerare för att konstruera styrprogram och förmågan att programmera medan applikationen är löpning. För de 99 procenten av befintliga byggnader på den amerikanska marknaden som för närvarande inte har råd att ersätta sina äldre enheter för att uppfylla öppna systemstandarder, betyder Baja frihet från hårdvarulåsning och inlåsning av program. Det kommer att ge företagen möjlighet att enkelt utveckla egna applikationer och drivrutiner i en användarvänlig, öppen miljö. Baja kommer att möjliggöra kommunikation och integration av nyckelinformation från alla system och program i byggnader. Nettoresultatet: ett ramverk som gör det möjligt för företagen att bättre uppfylla sina kunders behov med bästa avelslösningar och komplett Internet-kompatibilitet. Baja Standard ägs gemensamt av Tridium Inc. och Sun MicroSystems. Cyan Spring ATS Cyan Spring ATS är en öppen källkods algoritmisk handelsplattform. Det syftar till att tillhandahålla automatiserade handelslösningar till investeringsbanker, fondförvaltare och enskilda handlare. Cyan Spring ATS kombinerar algoritmisk handel och orderhantering i ett integrerat system som möjliggör snabb strategiutveckling och delpoyment. Mile Stones Version 1.32 släppt med IB-anslutningar Version 1.36 släpptes med tick-persistens och backtestrama Version 1.53 släpptes med runtime-strategi-implementering Version 1.65 släpptes med singelinstrumentstrategi Version 2.31 släpptes med uppgradering till Java 7-kompatibel Programvaruinformation Läs mer om applikationen Cyan Spring Algorithmic Trading Software möjliggör enkel utveckling av enkla och sofistikerade strategier En solid strategisk ram stöder snabb utveckling av enkla orderstrategier. Enhetsinstrument Strategier och Multi-Instrument Strategier Cyan Spring Trader Workstation (CSTW) ger ett grafiskt användargränssnitt (GUI) för handlare att övervaka och styra strategin. Cyan Spring ATS stöder FIX-protokoll och Interactive Broker-anslutningar Ta reda på systemarkitekturen om Cyan Spring ATS Choice är ditt: ett företagshandelssystem med distribuerad server-cluster-konfiguration eller en lättviktsalgo-robot med enkel klient - och serverkonfiguration. Java-lösning med händelsedrikerad arkitektur Flerlagsapplikationer baserade på Java Message System (JMS) Mutlipleservrar kan fungera som ett kluster för att dela arbetsbelastning Cyan Spring Trader Workstation (CSTW) kan ansluta till flera servrar i samma kluster Vanliga frågor Feel gratis att posta på vårt forum för eventuella frågor du kan ha Serviceinformation Gillar du vår programvara Cyan Spring ATS Group är en rendezvous av utvecklare som specialiserar sig på att bygga algotrading-system. Om du gillar vår programvara kan du överväga följande tjänster som vi tillhandahåller Konsult och anpassningsutveckling på Cyan Spring ATS Konsulttjänster om allmän trading systemutveckling och distribution Våra utvecklare och bidragsgivare kan vara öppna för möjligheten att ansluta sig till ditt företag som entreprenör eller fast anställd personal med förbehåll för deras tillgänglighet Vänligen maila oss på infocyanspring för någon förfrågan Cyan Spring ATS - Open Source Algoritmic Trading Software Copyright 2011-2012 Cyan Spring Limited. Alla rättigheter reserveradeBest Programmeringsspråk för Algoritmiska Handelssystem En av de vanligaste frågorna jag får i QS-brevlådan är Vad är det bästa programmeringsspråket för algoritmisk handel. Det korta svaret är att det inte finns något bra språk. Strategiparametrar, prestanda, modularitet, utveckling, elasticitet och kostnad måste alla övervägas. Denna artikel kommer att beskriva de nödvändiga komponenterna i en algoritmisk handelssystemarkitektur och hur besluten om implementering påverkar språkvalet. För det första kommer huvudkomponenterna i ett algoritmiskt handelssystem att övervägas, såsom forskningsverktygen, portföljoptimeraren, riskhanteraren och genomförandemotorn. Därefter granskas olika handelsstrategier och hur de påverkar systemets utformning. Speciellt kommer frekvensen av handel och den sannolika handelsvolymen att diskuteras. När handelsstrategin har valts är det nödvändigt att arkitektera hela systemet. Detta inkluderar val av hårdvara, operativsystem och systemresistens mot sällsynta, potentiellt katastrofala händelser. Medan arkitekturen övervägs måste hänsyn tas till prestanda - både för forskningsverktygen och för levande verkställande miljö. Vad är handelssystemet Försök att göra Innan du bestämmer dig för det bästa språket som du ska skriva ett automatiserat handelssystem är det nödvändigt att definiera kraven. Ska systemet vara rent exekveringsbaserat Kommer systemet att kräva en riskhantering eller portföljbyggnadsmodul Ska systemet kräva en högpresterande backtester För de flesta strategier kan handelssystemet delas upp i två kategorier: Forskning och signalgenerering. Forskning handlar om utvärdering av en strategisk utveckling över historiska data. Processen att utvärdera en handelsstrategi över tidigare marknadsdata kallas backtesting. Datastorleken och den algoritmiska komplexiteten kommer att ha stor inverkan på beräkningsintensiteten hos backtestern. CPU-hastighet och samtidighet är ofta de begränsande faktorerna för att optimera forskningsexekveringshastigheten. Signalgenerering handlar om att generera en uppsättning handelssignaler från en algoritm och skicka sådana order till marknaden, vanligtvis via en mäklare. För vissa strategier krävs en hög prestanda. IO-problem som nätverksbandbredd och latens är ofta den begränsande faktorn vid optimering av exekveringssystem. Således kan valet av språk för varje komponent i hela ditt system vara helt annorlunda. Typ, frekvens och volym av strategi Den typ av algoritmisk strategi som används kommer att ha en betydande inverkan på systemets utformning. Det kommer att vara nödvändigt att överväga att marknaderna handlas, anslutningen till externa datasäljare, frekvensen och volymen av strategin, avvägningen mellan enkel utveckling och prestandaoptimering, samt vilken anpassad hårdvara som helst, inklusive anpassad anpassning servrar, GPU eller FPGA som kan vara nödvändiga. Teknikvalen för en lågfrekvent amerikanska aktiestrategi kommer att vara väldigt annorlunda än en högfrekvent statistisk arbitragestrategihandel på terminsmarknaden. Före språkvalet måste många dataleverantörer utvärderas som avser en strategi för hand. Det kommer att vara nödvändigt att överväga anslutning till säljaren, strukturen för alla API: er, aktuell data, lagringskrav och elasticitet i ansiktet av en leverantör som går offline. Det är också klokt att ha snabb tillgång till flera leverantörer. Olika instrument har alla sina egna lagringsegenskaper. Exempel på detta inkluderar flera tickersymboler för aktier och utgångsdatum för terminer (för att inte nämna några specifika OTC-data). Detta måste ingå i plattformsdesignen. Frekvensen av strategin är sannolikt en av de största drivkrafterna för hur tekniken ska definieras. Strategier som använder data oftare än noggrann eller andra staplar kräver betydande hänsyn till prestanda. En strategi som överstiger andra stavar (dvs kryssningsdata) leder till en prestationsdriven design som det primära kravet. För högfrekventa strategier måste en betydande mängd marknadsdata lagras och utvärderas. Programvara som HDF5 eller kdb används vanligtvis för dessa roller. För att kunna bearbeta de omfattande volymerna av data som behövs för HFT-applikationer, måste en omfattande optimerad backtester och exekveringssystem användas. CC (eventuellt med någon assembler) är sannolikt den starkaste språkkandidaten. Ultrahögfrekventa strategier kräver nästan säkert anpassad hårdvara, som FPGA, utbyte av samlokalisering och gränssnittsgränssnitt. Forskningssystem Forskningssystem involverar vanligtvis en blandning av interaktiv utveckling och automatiserad skript. Den förra äger ofta rum inom en IDE som Visual Studio, MatLab eller R Studio. Det senare innebär omfattande numeriska beräkningar över många parametrar och datapunkter. Detta leder till ett språkval som ger en enkel miljö för att testa koden, men ger också tillräcklig prestanda för att utvärdera strategier över flera parameterdimensioner. Typiska IDEs i detta utrymme inkluderar Microsoft Visual CC, som innehåller omfattande felsökningsverktyg, kodfärdighetsfunktioner (via Intellisense) och rakt översikter över hela projektstapeln (via databasen ORM, LINQ) MatLab. som är konstruerad för omfattande numerisk linjär algebra och vektoriserade operationer, men på ett interaktivt konsol sätt R Studio. som omsluter R statistiska språkkonsolen i en fulländad IDE Eclipse IDE för Linux Java och C och semi-proprietary IDEs som Enthought Canopy for Python, som inkluderar databaser för databehandling som NumPy. SciPy. scikit-lär och pandor i en enda interaktiv (konsol) miljö. För numerisk backtesting är alla ovanstående språk lämpliga, men det är inte nödvändigt att använda en GUIIDE eftersom koden kommer att utföras i bakgrunden. Den primära övervägande i detta skede är den av körhastigheten. Ett sammanställt språk (som C) är ofta användbart om parametrarna för backtesting-parametrar är stora. Kom ihåg att det är nödvändigt att vara försiktig med sådana system, om så är fallet. Tolkade språk som Python använder ofta högpresterande bibliotek som NumPypandas för backtestingsteget, för att upprätthålla en rimlig grad av konkurrenskraft med kompilerade ekvivalenter. I slutändan kommer det språk som valts för backtesting att bestämmas av specifika algoritmiska behov samt utbudet av bibliotek tillgängliga på språket (mer om det nedan). Språket som används för backtester och forskningsmiljöer kan dock vara helt oberoende av de som används i portföljkonstruktion, riskhantering och exekveringskomponenter, vilket kommer att ses. Portföljkonstruktion och riskhantering Komponenterna för portföljkonstruktion och riskhantering är ofta förbisedda av detaljhandelsalgoritmiska handlare. Detta är nästan alltid ett misstag. Dessa verktyg ger den mekanism med vilket kapital kommer att bevaras. De försöker inte bara minska antalet riskabla satsningar, men minimerar också churnen i branschen, vilket reducerar transaktionskostnaderna. Sofistikerade versioner av dessa komponenter kan ha en betydande inverkan på lönsamhetens kvalitet och konsistens. Det är enkelt att skapa en stabil strategi eftersom portföljbyggnadsmekanismen och riskhanteraren lätt kan modifieras för att hantera flera system. Således bör de betraktas som väsentliga komponenter vid början av utformningen av ett algoritmiskt handelssystem. Arbetet med portföljkonstruktionssystemet är att ta en uppsättning av önskade affärer och producera uppsättningen verkliga verksamheter som minimerar klyftan, behåller exponeringar mot olika faktorer (t. ex. sektorer, tillgångsklasser, volatilitet etc.) och optimerar fördelningen av kapital till olika strategier i en portfölj. Portföljkonstruktion reduceras ofta till ett linjärt algebraproblem (såsom en matrisfaktorisering) och därför är prestanda starkt beroende av effektiviteten hos den numeriska linjära algebraimplementationen som är tillgänglig. Vanliga bibliotek innehåller uBLAS. LAPACK och NAG för C. MatLab har också omfattande optimerade matrisoperationer. Python använder NumPySciPy för sådana beräkningar. En ofta ombalanserad portfölj kräver ett kompilerat (och väloptimerat) matrisbibliotek för att utföra detta steg för att inte flaskhalsa handelssystemet. Riskhantering är en annan extremt viktig del av ett algoritmiskt handelssystem. Risken kan komma i många former: Ökad volatilitet (även om det här kan ses som önskvärt för vissa strategier), ökade korrelationer mellan tillgångsklasser, motpartsstandard, serveravbrott, svarta svanhändelser och oupptäckta fel i handelskoden, för att nämna en få. Riskhanteringskomponenter försöker förutse effekterna av överdriven volatilitet och korrelation mellan tillgångsklasser och deras efterföljande effekt (er) på handelskapital. Ofta minskar detta till en uppsättning statistiska beräkningar som Monte Carlo stresstester. Detta motsvarar mycket av beräkningsbehoven hos en derivatprissättningsmotor och kommer som sådan att vara CPU-bunden. Dessa simuleringar är mycket parallella (se nedan) och det är i viss mån möjligt att kasta hårdvara vid problemet. Exekveringssystem Arbetet med exekveringssystemet är att ta emot filtrerade handelssignaler från portföljkonstruktion och riskhanteringskomponenter och skicka dem vidare till en mäklare eller annan marknadstillträde. För majoriteten av detaljhandeln algoritmiska handelsstrategier innebär detta att en API eller FIX-anslutning till en mäklare som Interactive Brokers. De primära övervägandena när man bestämmer sig för ett språk inkluderar kvaliteten på API: n, språkpaketets tillgänglighet för ett API, exekveringsfrekvens och förväntad glidning. Kvaliteten på API: n refererar till hur väl dokumenterad det är, vilken typ av prestanda det ger, om det behövs fristående programvara som ska nås eller huruvida en gateway kan etableras på ett huvudlöst sätt (dvs ingen GUI). När det gäller interaktiva mäklare måste Trader WorkStation-verktyget köras i en GUI-miljö för att kunna komma åt deras API. Jag var en gång tvungen att installera en Desktop Ubuntu-utgåva på en Amazon Cloud-server för att komma åt Interactive Brokers på distans, helt av den anledningen. De flesta API-erna kommer att ge ett C andor Java-gränssnitt. Det är vanligtvis upp till samhället att utveckla språkspecifika wrappers för C, Python, R, Excel och MatLab. Observera att med varje extra plugin som används (speciellt API wrappers) finns det utrymme för buggar att krypa in i systemet. Testa alltid pluggar av detta slag och se till att de är aktivt underhållna. En värdefull mätare är att se hur många nya uppdateringar av en kodbas har gjorts under de senaste månaderna. Exekveringsfrekvensen är av yttersta vikt i exekveringsalgoritmen. Observera att hundratals beställningar kan skickas varje minut och som sådan är prestanda kritisk. Slippage uppstår genom ett dåligt fungerande exekveringssystem och detta kommer att få en dramatisk inverkan på lönsamheten. Statiskt typade språk (se nedan) som CJava är generellt optimala för utförande men det finns ett kompromiss i utvecklingstid, testning och enkel underhåll. Dynamiskt typade språk, som Python och Perl, är nu i allmänhet tillräckligt snabba. Kontrollera alltid att komponenterna är modulerade (se nedan) så att de kan bytas ut när systemet vågar. Arkitektonisk planerings - och utvecklingsprocess Komponenterna i ett handelssystem, dess frekvens - och volymkrav har diskuterats ovan, men systeminfrastrukturen har ännu inte täcks. De som agerar som detaljhandlare eller arbetar i en liten fond kommer sannolikt att ha på sig många hattar. Det kommer att vara nödvändigt att täcka alfamodell, riskhantering och exekveringsparametrar, samt den slutliga implementeringen av systemet. Innan delving till specifika språk diskuteras utformningen av en optimal systemarkitektur. Separering av problem En av de viktigaste besluten som måste fattas i början är hur man skiljer sig från ett handelssystems bekymmer. I mjukvaruutveckling betyder detta i huvudsak hur man bryter upp de olika aspekterna av handelssystemet i separata modulära komponenter. Genom att exponera gränssnitt för var och en av komponenterna är det enkelt att byta ut delar av systemet för andra versioner som stöder prestanda, tillförlitlighet eller underhåll, utan att ändra någon extern dependence-kod. Detta är den bästa praxisen för sådana system. För strategier vid lägre frekvenser rekommenderas sådana metoder. För ultrahögfrekvenshandel kan regelboken ignoreras på bekostnad av att tweaking systemet för ännu mer prestanda. Ett tätt kopplat system kan vara önskvärt. Att skapa en komponentkarta över ett algoritmiskt handelssystem är värt en artikel i sig. Ett optimalt tillvägagångssätt är emellertid att se till att det finns separata komponenter för historiska och realtidsmarknadsdataingångar, datalagring, API för dataåtkomst, backtester, strategiparametrar, portföljkonstruktion, riskhantering och automatiserade exekveringssystem. Till exempel, om den datalagring som används är för närvarande underpresterande, även vid betydande optimeringsnivåer, kan den bytas ut med minimala omskrivningar till datainnehållet eller dataåtkomst API. Så långt som backtester och efterföljande komponenter är det ingen skillnad. En annan fördel med separerade komponenter är att det tillåter en mängd olika programmeringsspråk att användas i det övergripande systemet. Det finns ingen anledning att vara begränsad till ett enda språk om kommunikationsmetoden för komponenterna är språkoberoende. Detta kommer att vara fallet om de kommunicerar via TCPIP, ZeroMQ eller något annat språkoberoende protokoll. Som ett konkret exempel, överväga att ett backtesting system skrivs i C för antal krossningsprestanda, medan portföljhanteraren och exekveringssystemen skrivs i Python med SciPy och IBPy. Prestanda Överväganden Prestanda är ett viktigt övervägande för de flesta handelsstrategier. För högre frekvensstrategier är det den viktigaste faktorn. Prestanda täcker ett brett spektrum av problem, till exempel algoritmisk exekveringshastighet, nätverks latens, bandbredd, data IO, konkurrenscyparallelism och skalning. Var och en av dessa områden omfattas individuellt av stora läroböcker, så den här artikeln kommer bara att skrapa ytan på varje ämne. Arkitektur och språkval kommer nu att diskuteras med avseende på deras effekter på prestanda. Den rådande visdom som framgår av Donald Knuth. en av fäderna för datavetenskap, är att för tidig optimering är roten till allt ont. Detta är nästan alltid fallet - förutom när man bygger en högfrekvent handelsalgoritm För dem som är intresserade av lägre frekvensstrategier är ett gemensamt förhållningssätt att bygga ett system på det enklaste sättet och bara optimera när flaskhalsar börjar dyka upp. Profileringsverktyg används för att avgöra var flaskhalsar uppstår. Profiler kan göras för alla faktorer som anges ovan, antingen i en MS Windows eller Linux-miljö. Det finns många operativsystem och språkverktyg tillgängliga för att göra det, liksom tredjepartsverktyg. Språkvalet kommer nu att diskuteras i samband med prestanda. C, Java, Python, R och MatLab innehåller alla högpresterande bibliotek (antingen som en del av deras standard eller externt) för grundläggande datastruktur och algoritmiskt arbete. C-fartyg med Standard Template Library, medan Python innehåller NumPySciPy. Vanliga matematiska uppgifter finns i dessa bibliotek och det är sällan bra att skriva en ny implementering. Ett undantag är om det krävs högspecifikt hårdvaruarkitektur och en algoritm använder sig extensivt av egna tillägg (till exempel anpassade cacher). Men ofta återuppfyllning av hjulavfallet tid som skulle kunna användas bättre utveckla och optimera andra delar av handelsinfrastrukturen. Utvecklingstiden är extremt dyrbar, särskilt i samband med ensamutvecklare. Latency är ofta ett problem med exekveringssystemet eftersom forskningsverktygen oftast ligger på samma maskin. För det första kan latens förekomma vid flera punkter längs exekveringsvägen. Databaser måste konsulteras (disknetwork latens), signaler måste genereras (operativsystem, kärnmeddelande latens), handel signaler skickas (NIC latens) och order bearbetas (växelsystem interna latens). För högre frekvensoperationer är det nödvändigt att bli noggrant bekant med kärnoptimering samt optimering av nätverksöverföring. Detta är ett djupt område och ligger väsentligt bortom artikelns räckvidd men om en UHFT-algoritm är önskad, var då medveten om det djup av kunskap som krävs. Caching är väldigt användbar i verktyget för en kvantitativ handelsutvecklare. Caching avser begreppet lagring av ofta åtkomstad data på ett sätt som möjliggör högre prestanda åtkomst, på bekostnad av dataens potentiella stavhet. Ett vanligt användningsfall uppstår i webbutveckling när du tar data från en diskbaserad relationsdatabas och lägger den i minnet. Eventuella efterföljande förfrågningar om uppgifterna behöver inte träffas i databasen, så prestationsvinster kan vara viktiga. För handelssituationer kan caching vara mycket fördelaktigt. Till exempel kan den nuvarande situationen för en strategiportfölj lagras i en cache tills den är ombalanserad, så att listan inte behöver regenereras på varje slinga i handelsalgoritmen. Sådan regenerering är sannolikt en hög CPU - eller disk-IO-operation. Caching är dock inte utan egna problem. Regenerering av cacherdata på en gång, på grund av cachelagrings volatilitet, kan ge betydande efterfrågan på infrastruktur. En annan fråga är hundhoppning. där flera generationer av en ny cache kopia utförs under extremt hög belastning, vilket leder till kaskadfel. Dynamisk minnesallokering är en dyr operation vid programkörning. Thus it is imperative for higher performance trading applications to be well-aware how memory is being allocated and deallocated during program flow. Newer language standards such as Java, C and Python all perform automatic garbage collection . which refers to deallocation of dynamically allocated memory when objects go out of scope . Garbage collection is extremely useful during development as it reduces errors and aids readability. However, it is often sub-optimal for certain high frequency trading strategies. Custom garbage collection is often desired for these cases. In Java, for instance, by tuning the garbage collector and heap configuration, it is possible to obtain high performance for HFT strategies. C doesnt provide a native garbage collector and so it is necessary to handle all memory allocationdeallocation as part of an objects implementation. While potentially error prone (potentially leading to dangling pointers) it is extremely useful to have fine-grained control of how objects appear on the heap for certain applications. When choosing a language make sure to study how the garbage collector works and whether it can be modified to optimise for a particular use case. Many operations in algorithmic trading systems are amenable to parallelisation . This refers to the concept of carrying out multiple programmatic operations at the same time, i. e in parallel. So-called embarassingly parallel algorithms include steps that can be computed fully independently of other steps. Certain statistical operations, such as Monte Carlo simulations, are a good example of embarassingly parallel algorithms as each random draw and subsequent path operation can be computed without knowledge of other paths. Other algorithms are only partially parallelisable. Fluid dynamics simulations are such an example, where the domain of computation can be subdivided, but ultimately these domains must communicate with each other and thus the operations are partially sequential. Parallelisable algorithms are subject to Amdahls Law. which provides a theoretical upper limit to the performance increase of a parallelised algorithm when subject to N separate processes (e. g. on a CPU core or thread ). Parallelisation has become increasingly important as a means of optimisation since processor clock-speeds have stagnated, as newer processors contain many cores with which to perform parallel calculations. The rise of consumer graphics hardware (predominently for video games) has lead to the development of Graphical Processing Units (GPUs), which contain hundreds of cores for highly concurrent operations. Such GPUs are now very affordable. High-level frameworks, such as Nvidias CUDA have lead to widespread adoption in academia and finance. Such GPU hardware is generally only suitable for the research aspect of quantitative finance, whereas other more specialised hardware (including Field-Programmable Gate Arrays - FPGAs) are used for (U)HFT. Nowadays, most modern langauges support a degree of concurrencymultithreading. Thus it is straightforward to optimise a backtester, since all calculations are generally independent of the others. Scaling in software engineering and operations refers to the ability of the system to handle consistently increasing loads in the form of greater requests, higher processor usage and more memory allocation. In algorithmic trading a strategy is able to scale if it can accept larger quantities of capital and still produce consistent returns. The trading technology stack scales if it can endure larger trade volumes and increased latency, without bottlenecking . While systems must be designed to scale, it is often hard to predict beforehand where a bottleneck will occur. Rigourous logging, testing, profiling and monitoring will aid greatly in allowing a system to scale. Languages themselves are often described as unscalable. This is usually the result of misinformation, rather than hard fact. It is the total technology stack that should be ascertained for scalability, not the language. Clearly certain languages have greater performance than others in particular use cases, but one language is never better than another in every sense. One means of managing scale is to separate concerns, as stated above. In order to further introduce the ability to handle spikes in the system (i. e. sudden volatility which triggers a raft of trades), it is useful to create a message queuing architecture. This simply means placing a message queue system between components so that orders are stacked up if a certain component is unable to process many requests. Rather than requests being lost they are simply kept in a stack until the message is handled. This is particularly useful for sending trades to an execution engine. If the engine is suffering under heavy latency then it will back up trades. A queue between the trade signal generator and the execution API will alleviate this issue at the expense of potential trade slippage. A well-respected open source message queue broker is RabbitMQ . Hardware and Operating Systems The hardware running your strategy can have a significant impact on the profitability of your algorithm. This is not an issue restricted to high frequency traders either. A poor choice in hardware and operating system can lead to a machine crash or reboot at the most inopportune moment. Thus it is necessary to consider where your application will reside. The choice is generally between a personal desktop machine, a remote server, a cloud provider or an exchange co-located server. Desktop machines are simple to install and administer, especially with newer user friendly operating systems such as Windows 78, Mac OSX and Ubuntu. Desktop systems do possess some significant drawbacks, however. The foremost is that the versions of operating systems designed for desktop machines are likely to require rebootspatching (and often at the worst of times). They also use up more computational resources by the virtue of requiring a graphical user interface (GUI). Utilising hardware in a home (or local office) environment can lead to internet connectivity and power uptime problems. The main benefit of a desktop system is that significant computational horsepower can be purchased for the fraction of the cost of a remote dedicated server (or cloud based system) of comparable speed. A dedicated server or cloud-based machine, while often more expensive than a desktop option, allows for more significant redundancy infrastructure, such as automated data backups, the ability to more straightforwardly ensure uptime and remote monitoring. They are harder to administer since they require the ability to use remote login capabilities of the operating system. In Windows this is generally via the GUI Remote Desktop Protocol (RDP). In Unix-based systems the command-line Secure SHell (SSH) is used. Unix-based server infrastructure is almost always command-line based which immediately renders GUI-based programming tools (such as MatLab or Excel) to be unusable. A co-located server, as the phrase is used in the capital markets, is simply a dedicated server that resides within an exchange in order to reduce latency of the trading algorithm. This is absolutely necessary for certain high frequency trading strategies, which rely on low latency in order to generate alpha. The final aspect to hardware choice and the choice of programming language is platform-independence. Is there a need for the code to run across multiple different operating systems Is the code designed to be run on a particular type of processor architecture, such as the Intel x86x64 or will it be possible to execute on RISC processors such as those manufactured by ARM These issues will be highly dependent upon the frequency and type of strategy being implemented. Resilience and Testing One of the best ways to lose a lot of money on algorithmic trading is to create a system with no resiliency . This refers to the durability of the sytem when subject to rare events, such as brokerage bankruptcies, sudden excess volatility, region-wide downtime for a cloud server provider or the accidental deletion of an entire trading database. Years of profits can be eliminated within seconds with a poorly-designed architecture. It is absolutely essential to consider issues such as debuggng, testing, logging, backups, high-availability and monitoring as core components of your system. It is likely that in any reasonably complicated custom quantitative trading application at least 50 of development time will be spent on debugging, testing and maintenance. Nearly all programming languages either ship with an associated debugger or possess well-respected third-party alternatives. In essence, a debugger allows execution of a program with insertion of arbitrary break points in the code path, which temporarily halt execution in order to investigate the state of the system. The main benefit of debugging is that it is possible to investigate the behaviour of code prior to a known crash point . Debugging is an essential component in the toolbox for analysing programming errors. However, they are more widely used in compiled languages such as C or Java, as interpreted languages such as Python are often easier to debug due to fewer LOC and less verbose statements. Despite this tendency Python does ship with the pdb. which is a sophisticated debugging tool. The Microsoft Visual C IDE possesses extensive GUI debugging utilities, while for the command line Linux C programmer, the gdb debugger exists. Testing in software development refers to the process of applying known parameters and results to specific functions, methods and objects within a codebase, in order to simulate behaviour and evaluate multiple code-paths, helping to ensure that a system behaves as it should. A more recent paradigm is known as Test Driven Development (TDD), where test code is developed against a specified interface with no implementation. Prior to the completion of the actual codebase all tests will fail. As code is written to fill in the blanks, the tests will eventually all pass, at which point development should cease. TDD requires extensive upfront specification design as well as a healthy degree of discipline in order to carry out successfully. In C, Boost provides a unit testing framework. In Java, the JUnit library exists to fulfill the same purpose. Python also has the unittest module as part of the standard library. Many other languages possess unit testing frameworks and often there are multiple options. In a production environment, sophisticated logging is absolutely essential. Logging refers to the process of outputting messages, with various degrees of severity, regarding execution behaviour of a system to a flat file or database. Logs are a first line of attack when hunting for unexpected program runtime behaviour. Unfortunately the shortcomings of a logging system tend only to be discovered after the fact As with backups discussed below, a logging system should be given due consideration BEFORE a system is designed. Both Microsoft Windows and Linux come with extensive system logging capability and programming languages tend to ship with standard logging libraries that cover most use cases. It is often wise to centralise logging information in order to analyse it at a later date, since it can often lead to ideas about improving performance or error reduction, which will almost certainly have a positive impact on your trading returns. While logging of a system will provide information about what has transpired in the past, monitoring of an application will provide insight into what is happening right now . All aspects of the system should be considered for monitoring. System level metrics such as disk usage, available memory, network bandwidth and CPU usage provide basic load information. Trading metrics such as abnormal pricesvolume, sudden rapid drawdowns and account exposure for different sectorsmarkets should also be continuously monitored. Further, a threshold system should be instigated that provides notification when certain metrics are breached, elevating the notification method (email, SMS, automated phone call) depending upon the severity of the metric. System monitoring is often the domain of the system administrator or operations manager. However, as a sole trading developer, these metrics must be established as part of the larger design. Many solutions for monitoring exist: proprietary, hosted and open source, which allow extensive customisation of metrics for a particular use case. Backups and high availability should be prime concerns of a trading system. Consider the following two questions: 1) If an entire production database of market data and trading history was deleted (without backups) how would the research and execution algorithm be affected 2) If the trading system suffers an outage for an extended period (with open positions) how would account equity and ongoing profitability be affected The answers to both of these questions are often sobering It is imperative to put in place a system for backing up data and also for testing the restoration of such data. Many individuals do not test a restore strategy. If recovery from a crash has not been tested in a safe environment, what guarantees exist that restoration will be available at the worst possible moment Similarly, high availability needs to be baked in from the start. Redundant infrastructure (even at additional expense) must always be considered, as the cost of downtime is likely to far outweigh the ongoing maintenance cost of such systems. I wont delve too deeply into this topic as it is a large area, but make sure it is one of the first considerations given to your trading system. Choosing a Language Considerable detail has now been provided on the various factors that arise when developing a custom high-performance algorithmic trading system. The next stage is to discuss how programming languages are generally categorised. Type Systems When choosing a language for a trading stack it is necessary to consider the type system . The languages which are of interest for algorithmic trading are either statically - or dynamically-typed . A statically-typed language performs checks of the types (e. g. integers, floats, custom classes etc) during the compilation process. Such languages include C and Java. A dynamically-typed language performs the majority of its type-checking at runtime. Such languages include Python, Perl and JavaScript. For a highly numerical system such as an algorithmic trading engine, type-checking at compile time can be extremely beneficial, as it can eliminate many bugs that would otherwise lead to numerical errors. However, type-checking doesnt catch everything, and this is where exception handling comes in due to the necessity of having to handle unexpected operations. Dynamic languages (i. e. those that are dynamically-typed) can often lead to run-time errors that would otherwise be caught with a compilation-time type-check. For this reason, the concept of TDD (see above) and unit testing arose which, when carried out correctly, often provides more safety than compile-time checking alone. Another benefit of statically-typed languages is that the compiler is able to make many optimisations that are otherwise unavailable to the dynamically - typed language, simply because the type (and thus memory requirements) are known at compile-time. In fact, part of the inefficiency of many dynamically-typed languages stems from the fact that certain objects must be type-inspected at run-time and this carries a performance hit. Libraries for dynamic languages, such as NumPySciPy alleviate this issue due to enforcing a type within arrays. Open Source or Proprietary One of the biggest choices available to an algorithmic trading developer is whether to use proprietary (commercial) or open source technologies. There are advantages and disadvantages to both approaches. It is necessary to consider how well a language is supported, the activity of the community surrounding a language, ease of installation and maintenance, quality of the documentation and any licensingmaintenance costs. The Microsoft stack (including Visual C, Visual C) and MathWorks MatLab are two of the larger proprietary choices for developing custom algorithmic trading software. Both tools have had significant battle testing in the financial space, with the former making up the predominant software stack for investment banking trading infrastructure and the latter being heavily used for quantitative trading research within investment funds. Microsoft and MathWorks both provide extensive high quality documentation for their products. Further, the communities surrounding each tool are very large with active web forums for both. The software allows cohesive integration with multiple languages such as C, C and VB, as well as easy linkage to other Microsoft products such as the SQL Server database via LINQ. MatLab also has many pluginslibraries (some free, some commercial) for nearly any quantitative research domain. There are also drawbacks. With either piece of software the costs are not insignificant for a lone trader (although Microsoft does provide entry-level version of Visual Studio for free). Microsoft tools play well with each other, but integrate less well with external code. Visual Studio must also be executed on Microsoft Windows, which is arguably far less performant than an equivalent Linux server which is optimally tuned. MatLab also lacks a few key plugins such as a good wrapper around the Interactive Brokers API, one of the few brokers amenable to high-performance algorithmic trading. The main issue with proprietary products is the lack of availability of the source code. This means that if ultra performance is truly required, both of these tools will be far less attractive. Open source tools have been industry grade for sometime. Much of the alternative asset space makes extensive use of open-source Linux, MySQLPostgreSQL, Python, R, C and Java in high-performance production roles. However, they are far from restricted to this domain. Python and R, in particular, contain a wealth of extensive numerical libraries for performing nearly any type of data analysis imaginable, often at execution speeds comparable to compiled languages, with certain caveats. The main benefit of using interpreted languages is the speed of development time. Python and R require far fewer lines of code (LOC) to achieve similar functionality, principally due to the extensive libraries. Further, they often allow interactive console based development, rapidly reducing the iterative development process. Given that time as a developer is extremely valuable, and execution speed often less so (unless in the HFT space), it is worth giving extensive consideration to an open source technology stack. Python and R possess significant development communities and are extremely well supported, due to their popularity. Documentation is excellent and bugs (at least for core libraries) remain scarce. Open source tools often suffer from a lack of a dedicated commercial support contract and run optimally on systems with less-forgiving user interfaces. A typical Linux server (such as Ubuntu) will often be fully command-line oriented. In addition, Python and R can be slow for certain execution tasks. There are mechanisms for integrating with C in order to improve execution speeds, but it requires some experience in multi-language programming. While proprietary software is not immune from dependencyversioning issues it is far less common to have to deal with incorrect library versions in such environments. Open source operating systems such as Linux can be trickier to administer. I will venture my personal opinion here and state that I build all of my trading tools with open source technologies. In particular I use: Ubuntu, MySQL, Python, C and R. The maturity, community size, ability to dig deep if problems occur and lower total cost ownership (TCO) far outweigh the simplicity of proprietary GUIs and easier installations. Having said that, Microsoft Visual Studio (especially for C) is a fantastic Integrated Development Environment (IDE) which I would also highly recommend. Batteries Included The header of this section refers to the out of the box capabilities of the language - what libraries does it contain and how good are they This is where mature languages have an advantage over newer variants. C, Java and Python all now possess extensive libraries for network programming, HTTP, operating system interaction, GUIs, regular expressions (regex), iteration and basic algorithms. C is famed for its Standard Template Library (STL) which contains a wealth of high performance data structures and algorithms for free. Python is known for being able to communicate with nearly any other type of systemprotocol (especially the web), mostly through its own standard library. R has a wealth of statistical and econometric tools built in, while MatLab is extremely optimised for any numerical linear algebra code (which can be found in portfolio optimisation and derivatives pricing, for instance). Outside of the standard libraries, C makes use of the Boost library, which fills in the missing parts of the standard library. In fact, many parts of Boost made it into the TR1 standard and subsequently are available in the C11 spec, including native support for lambda expressions and concurrency. Python has the high performance NumPySciPyPandas data analysis library combination, which has gained widespread acceptance for algorithmic trading research. Further, high-performance plugins exist for access to the main relational databases, such as MySQL (MySQLC), JDBC (JavaMatLab), MySQLdb (MySQLPython) and psychopg2 (PostgreSQLPython). Python can even communicate with R via the RPy plugin An often overlooked aspect of a trading system while in the initial research and design stage is the connectivity to a broker API. Most APIs natively support C and Java, but some also support C and Python, either directly or with community-provided wrapper code to the C APIs. In particular, Interactive Brokers can be connected to via the IBPy plugin. If high-performance is required, brokerages will support the FIX protocol . Conclusion As is now evident, the choice of programming language(s) for an algorithmic trading system is not straightforward and requires deep thought. The main considerations are performance, ease of development, resiliency and testing, separation of concerns, familiarity, maintenance, source code availability, licensing costs and maturity of libraries. The benefit of a separated architecture is that it allows languages to be plugged in for different aspects of a trading stack, as and when requirements change. A trading system is an evolving tool and it is likely that any language choices will evolve along with it. Just Getting Started with Quantitative Trading

No comments:

Post a Comment