虚拟天文台培训资料

虚拟天文台NationalVirtualObservatoryTheNationalVirtualObservatoryNationaldistributedinscopeacrossinstitutionsandagenciesavailabletoallastronomersandthepublicVirtualnottiedtoasingle“brick-and-mortar”locationsupportsastronomical“observations”anddiscoveries

viaremoteaccesstodigitalrepresentationsoftheskyObservatorygeneralpurposeaccesstolargeareasoftheskyatmultiplewavelengthssupportsawiderangeofastronomicalexplorationsenablesdiscoveryvianewcomputationaltoolsNationalVirtualObservatory虚拟天文台建成前:利用大样本巡天/数据库的例子NationalVirtualObservatoryHighRedshiftQuasarsSeveralz>5QSOs

discoveredbySDSS

intheearlytestdataNationalVirtualObservatoryMethane/TDwarfDiscoveryofseveralnew

objectsbySDSS&2MASS

SDSST-dwarf

(June1999)NationalVirtualObservatoryDPOSSDiscoveries

NationalVirtualObservatoryNewNeighboroftheMilkyWayFindingnewgalaxiesbyspatialclusteringofredobjectsNewgalaxyisabout30millionlightyearsawayLargerthanmostofthespiralgalaxiesintheMessierCatalogueClearlyvisibleinthe2MASSinfraredimageExpecttofind1000’sofsuchgalaxieswith2MASSInfraredOpticalNationalVirtualObservatory用户需要做的事情:1.提出科学思想,及对数据库的需要2.检索数据库(用户到不同站点寻找)3.下载所需的数据(xTB?包括各种元数据,定标数据……)4.对数据进行标准化处理(需要软件平台)5.数据的匹配(如果使用二个以上数据库的资料)6.发展各种软件工具(可视化,统计工具……)NationalVirtualObservatory为虚拟天文台设计的几个例子NationalVirtualObservatory例＃1：活动星系核（AGN）的全波段研究背景

AGN的高光度:使他们在很大的宇宙距离上可见

AGN代表了星系演化的一个基本阶段,在观测上，由於AGN的光谱能量分布比一般黑体谱宽很多,易于从恒星中分辨出来。但是，红移，光变，（可能很大的）被遮挡，以及内禀光谱形状与特征的不同,导致从X射线到射电波段的“颜色”有很大的范围。NationalVirtualObservatory科学目标这个课题旨在建立一个完整的AGN的样本以便: ◎检验观测到的特性是由外在因素,如,指向或遮挡所决定的想法（所谓统一模型）。 ◎比较AGN环境对AGN类型的影响，例如其射电特征与星系团成员的关系。 ◎了解AGN光度函数的演化，特别是区分数目演化和光度演化。 ◎在不同波段上建立AGN光度函数，由此来了解在统计意义上AGN特性的演化过程。NationalVirtualObservatory课题概要1联合几个（N）巡天,它们覆盖同一（足够大）天区，并跨越很大的波长范围（从X射线到射电）2包含元数据信息,以便考虑巡天选择效应及其局限性。相关的元数据将包括巡天天区，波段范围，流量极限等等3在合成后得到的N维多色空间中认证可以辨认的天体“云”4利用已有的天文数据（比如发表的星表，理论模型）以了解这些“云”的成分。5在联合数据中认证AGN候选体。注意可能需要新的观测来证实。这种证认可能是统计性的，给出某一天体是AGN

的几率。6利用星表的性质加上/或者从图像库的进一步的测量来提出科学问题。NationalVirtualObservatory对NVO功能的需求◎对相关巡天的联合，包括在不同波段巡天上天体的交叉认证以及元数据的交换与融合。◎用团分析区分“片”与“链”。包括导向分析（由天文知识引导去确证与分析）与无导向分析（识别新模式）。◎多维数据的可视化。◎在多维参量空间对定义的天区进行天体成分的统计分析与分类。NationalVirtualObservatory例＃2：大尺度结构的形成与演化

背景星系团代表了已知最大的明确的质量结团现象,不同的早期宇宙演化模型预言了不同的星系团的形成和演化。这些模型可以通过将预言与观测的星系团的质量和光度函数进行比较加以验证NationalVirtualObservatory科学目标这个项目的目标是建立无偏的,在宇宙学意义上有相当红移跨度的星系团样本，通过与观测到的质量和光度函数随红移演化的比较,来检验各种结构形成与演化的模型。另外，这些样本也可以用来研究星系的形态——密度关系及其在特定时间尺度上的演化。NationalVirtualObservatory项目概述1通过以下不同方法,利用多波段象素数据生成统计星系团样本：

X射线巡天：从图像数据中的热气体发射认证星系团

光学/红外巡天：把图像数据与设计好的核卷积挑选星系团

毫米波巡天：由Sunyaev-Zel‘dovich效应引起的CMB

温度变化来认证星系团

射电巡天：根据标志星系团环境的射电源形态来认证星系团2比较不同选择方法的结果。定量给出选择效应作为星系团质量，密度，红移等的函数3运用多种距离指示器或者红移估计来补充星系团的观测特性NationalVirtualObservatory对NVO功能的需求 ◎根据用户定义的算法和工具对大量图像数据进行处理 ◎模拟巡天以了解选择效应;用模拟检验用户定义的工具

◎根据不同的理论预测观测样本特性。与观测样本作比较。NationalVirtualObservatory

例＃3：数字银河系背景银河系在结构上由多种成分组成：晕，薄盘，厚盘，核球，旋臂。每一部分由在年龄，质量，化学组分，轨道（位置与运动）等分布上相关的星族,以及如气体和尘埃等非恒星物质的分布来表征。它们是反映银河系形成过程的化石，从整体上说,对这些结构的全面理解从来没有实现过,因为要同时定出所有变量所需的样本之大，使得研究非常难于进行。NationalVirtualObservatory科学目标这个项目要建立一个非常大的银河系恒星样本,以及尽可能多的关于每一个天体物理特性的信息。这些资料加上银河系非恒星物质的分布图将用来：◎产生银河系参数化的模型，包括位置和运动信息◎把这个模型同根据不同形成过程的银河系结构模型进行比较◎特别要寻找代表并合事件或潮汐碎片痕迹的共动天体群NationalVirtualObservatory项目概述

1合并各种光学和红外巡天来产生出彼此匹配的星表2利用位置，星等和颜色来建立三维恒星分布。这需要用颜色来得到光度型并估计消光3根据远红外,HI和CO图像,定量得出尘埃分布和遮挡4反复迭代项2直至自洽5用红外和射电图像来确定恒星形成区的整块流动和位置信息6用自行巡天（如果有可能，加上视向速度信息）推导出恒星子集的运动7用多次历元的成像寻找变星。利用它们检验距离NationalVirtualObservatory对NVO功能需求

◎联合多波段和多次历元的星表◎以用户自定义工具对大量图像数据进行处理◎大量多维数据的可视化◎成分分析及寻找相关天体群的统计工具NationalVirtualObservatoryExamples:non-localqueriesFindallobjectswithin1'whichhavemorethantwoneighborswithu-g,g-r,i-Kcolorswithin0.05mFindallstar-likeobjectswithindm=0.2ofthecolorsofaquasarat5.5<z<6.5,usingallcolorsinallavailablecatalogsFindgalaxiesthatareblendedwithastar,outputthedeblendedmagnitudesProvidealistofmovingobjectsconsistentwithanasteroid,basedonallthesurveys,estimatepossibleorbitparametersFindbinarystarswhereatleastoneofthemhasthecolorsofawhitedwarf,withintheerrorboxesofhardx-raysourcesNationalVirtualObservatory时代NationalVirtualObservatory两百多年来，天文研究通常都是单个天文学家或者天文学家小组进行为数有限的天体的观测。NationalVirtualObservatory过去天文学家常常花整个一生所获得的资料,仅仅够得出有统计意义的结论。加上威力大的设备的观测时间是非常有限，那些需要大量数据来解决的天体物理问题就不能进行研究NationalVirtualObservatory现在情况正发生着巨大而迅速的改变.这一改变是由过去几十年中发生的前所未有的技术进展所推动的.这场天文学上革命性改变的主要领域集中在以下几个方面：望远镜的设计和制造，大尺度探测器阵列的开发，计算能力的指数增长以及通信网络不断增长的覆盖面积和容量NationalVirtualObservatory如同Moore定律反映计算能力随时间指数增长，在过去10年中观测天文技术的进步对天文发展也可以用Moore定律来描述。NationalVirtualObservatoryHSTDataArchive

SeveralTerabytes/yearAlreadymoreretrievalthaningest!NationalVirtualObservatoryTrendsFuturedominatedbydetectorimprovementsTotalareaof3m+telescopesintheworldinm2,totalnumberofCCDpixelsinMegapix,asafunctionoftime.Growthover25yearsisafactorof30inglass,3000inpixels.

Moore’sLawgrowthin

CCDcapabilitiesGigapixelarraysonthe

horizonImprovementsincomputing

andstoragewilltrackgrowth

indatavolumeInvestmentinsoftwareis

critical,andgrowingNationalVirtualObservatory更多的地面和空间大口径天文设备的出现将会有一个严重且必然的结果：数据流极大地增加。比如目前HST每天大约产生5Gb的数据，而最近AASC巡天推荐建造的设备--大口径巡天望远镜theLarge-ApertureSynopticSurveyTelescope--每天产生10TB的数据!NationalVirtualObservatory除了数据增长速度，观测的方式也正在发生变化。尽管新的地面和空间天文台还继续分给单观测者/单计划的观测模式的研究相当多的观测时间，这些时间被分成许多小时段安排给许多特定目标的研究课题,但更多的时间是用来进行大尺度的巡天，经常是多波段，涉及大量的合作者。NationalVirtualObservatoryTheObservatoriesNOAO/NRAO20%ofthetimeonallitstelescopesdedicatedtomajorsurveysusingawiderangeoftelescopeandinstrumentationpackagesTheNASAGreatObservatoriesnewopportunitiesforsurveys,combinemission-specificdatawiththosefromothermissionsandfromthegroundseveralmulti-TerabytedatabasesandfurtherextensivecatalogsofobjectsNationalVirtualObservatory这些大的巡天计划将会产生大量质量均匀,标准统一的数据，通常会以T字节来衡量。这种天文研究的变化,不仅由於新设备威力的提高允许更快速地获得这些数据，还由於计算机的硬件和软件可以快速地进行数据采集、处理及存档。NationalVirtualObservatoryOngoingMega-SurveysLargenumberofnewsurveysMulti-terabyteinsize,100millionobjectsorlargerIndividualarchivesplannedandunderwayMulti-wavelengthviewoftheskyMorethan13wavelengthcoveragewithin5years

ImpressiveearlydiscoveriesFindingexoticobjectsbyunusualcolorsL,Tdwarfs,highredshiftquasarsFindingobjectsbytimevariabilitygravitationalmicro-lensing

MACHO2MASSSDSSDPOSSGSC-IICOBE

MAPNVSSFIRSTGALEXROSATOGLE,...NationalVirtualObservatoryProposedSurveysNextDecade:Newoptimized“surveysystems”

exploringnewparameterspace

DarkMatterTelescope(DMT)

mapthedistributionofmatterforz<1.5fromweaklensing,throughdeep,highqualityimagesofgalaxiesmovingandvariableobjectsthroughrepetitivesurveysSpectroscopicWide-FieldTelescope(SWIFT)evolutionofgalaxiesfromz~4tothepresentfromstarformationratesdeterminechemicalabundancesandkinematicsNationalVirtualObservatory将使天文学研究的特征发生变化的一个主要的技术进步是宽带的高速网络信息交换技术。虽然大量数据通过平常的网络进行交换还慢的不能接受(传输1Tb的数据要花20多天)，未来的网络会快得多。这种数据传输速率加上地面和空间设备的高效率的数据采集，使得在不同地点间的大量数据交换成为可能。这个技术使广泛用户能够访问,使用其中某一部分的资料,在这之前是不容易做到的，由此所产生的可能的科学结果是巨大的。NationalVirtualObservatoryWhyNow?Thepastdecadehaswitnessedathousand-foldincreaseincomputerspeedadramaticdecreaseinthecostofcomputing&storageadramaticincreaseinaccesstobroadlydistributeddatalargearchivesatmultiplesitesandhighspeednetworkssignificantincreasesindetectorsizeandperformanceTheseformthebasisforscienceofqualitativelydifferentnatureNationalVirtualObservatory科学NationalVirtualObservatory这些新的巡天带来的科学发现的潜力是巨大的。对这些数据的联合使用,将涌现出全新的、无法预见的、意义重大的科学产出,这是一种仅靠单独使用其中某一部分资料所不可能有的科学NationalVirtualObservatory国家虚拟天文台所具备的新的科学能力,是实现己有的或即将产生的TB级至PB级数据的全部科学价值的关键。对大规模星表的快速检索、统计相关关系的建立、数据中新的结构图案和时变的发现,以及与成熟的数值模拟的比对,都是通向新科学的途径,它们都可以通过国家虚拟天文台实现NationalVirtualObservatoryTheDiscoveryProcess

discoversignificantpatternsfromtheanalysisofstatisticallyrichand

unbiasedimage/catalogdatabases understandcomplexastrophysicalsystems

viaconfrontationbetweendataand

largenumericalsimulations

Past: observationsofsmall,carefullyselectedsamples

ofobjectsinanarrowwavelengthbandFuture: highquality,homogeneousmulti-wavelength

dataonmillionsofobjects,allowingustoThediscoveryprocess

willrelyheavilyonadvancedvisualization

andstatisticalanalysistoolsNationalVirtualObservatoryNVOScience:DiscoveriesDiscoveriesofrareobjects:Searchesforexoticnewsources

trulyrareatlevelof1sourcein10million

Multi-wavelengthidentification

oflargestatisticalsamplesofpreviouslyrareobjects:browndwarfs,high-zquasars,ultra-luminousIRgalaxies,etc.Efficientcross-identificationof“unidentifiedsources”

fromnewsurveysExample:Useradio,optical,andIRsurveysto

identifyserendipitousChandraX-raysourcesSelectionoftargets

forspectroscopicfollow-upNationalVirtualObservatoryNVOScience:StatisticalSurveysHomogeneoussamplesoftypicalobjectsMega-surveys:samplesizenotaproblemanymoreStatisticalaccuracydeterminedentirelybysystematicsMulti-wavelengthdataenablesaccuratesampleselection

(evolution,rest-frameselection)HighPrecisionAstrophysicsofOriginsLargescalestructureoftheuniverseGalacticstructureGalaxyevolutionActivegalaxies,galaxyclusters,...StellarpopulationsLeadingtoNewAstronomyNationalVirtualObservatoryNewAstronomy–Different!

SystematicDataExploration willhaveacentralroleintheNewAstronomy DigitalArchivesoftheSky willbethemainaccesstodata Data“Avalanche” thefloodofTerabytesofdataisalreadyhappening,

whetherwelikeitornot! Transitiontothenew maybeorganizedorchaoticNationalVirtualObservatory条件NationalVirtualObservatoryNecessaryComponentsNewarchivalmethodsNewanalysistoolsNewhardwarerequirementsNationalVirtualObservatoryNewArchivalMethodsStructureandmanagemulti-TB(andsoonPB)dataarchives,distributedacrossthecontinentRapidandtransparentaccesstoimage/catalogdatabasesacrossallwavelengths,viaintelligentqueryagentsEfficientqueryanddataretrievalbymorethan10,000scientistsworld-wide,withenhancedsearchoperators(likespatialproximity)NationalVirtualObservatoryGeometricIndexing“DivideandConquer”Partitioning3

N

MHierarchical

Triangular

MeshSplitask-dtree

Storedasr-tree

ofboundingboxesUsingregular

indexing

techniquesAttributes NumberSkyPosition 3MultibandFluxes N=5+Other M=100+NationalVirtualObservatoryNewAnalysisToolsDiscovernewpatternsthroughadvancedstatisticalmethodsandvisualizationtechniquesConfrontcatalogsandimagedatabaseswithnumericalsimulationsofastrophysicalsystemsCollaborativeexplorationofmulti-wavelengthdatabasesbymultiplegroupsworkingatremotesitesNationalVirtualObservatoryNewHardwareRequirementsLargedistributeddatabaseengineswithGbyte/saggregateI/OspeedHighspeed(>10Gbits/s)backbonescross-connectingthemajorarchives

ScalablecomputingenvironmentwithhundredsofCPUsforstatisticalanalysisanddiscoveryNationalVirtualObservatoryNVODevelopmentFunctionsSoftwaredevelopmentquerygeneration/optimization,softwareagents,userinterfaces,discoverytools,visualizationtoolsStandardsdevelopmentMeta-data,meta-services,streamingformats,objectrelationships,objectattributes,...Infrastructuredevelopmentarchivalstoragesystems,queryengines,computeservers,highspeedconnectionsofmaincentersTraintheNextGenerationtrainscientistsequallyathomeinastronomyandmoderncomputerscience,statistics,visualizationNationalVirtualObservatory挑战NationalVirtualObservatory国家虚拟天文台的实施涉及到许多重大的技术挑战。这包括现有的天文存档数据的协调以及新能力和数据结构的发展。国家虚拟天文台的主要技术构成,包括数据库、元数据标准、数据访问界面、查询和计算服务,以及数据开发应用。这些能力的提高将要求与信息技术界的密切合作NationalVirtualObservatoryExamples:Today’sI/OratesReadinga1TBdataset dataaccessspeedtime[days]Fastdatabaseserver 50MB/s 0.23 LocalSCSI/FastEthernet 10MB/s 1.2T1 0.5MB/s 23Typical‘good’www 20KB/s 580Bruteforceisnotenough–weneedclevertechniquesNationalVirtualObservatoryTheRoadtotheNVOTheenvironmenttoexploitthesehugeskysurveysdoesnotexisttoday!1Terabyteat10Mbyte/stakes1dayExpect100’sofintensivequeriesand

1000’sofcasualqueriesper-dayDatawillresideatmultiplelocationsExistinganalysistoolsdonotscaletoTerabytedatasets

Acuteneedinafewyears,

itwillnotjusthappenaNewInitiativeisneeded!NationalVirtualObservatoryNVO:TheChallengesSizeofthearchiveddata40,000squaredegreesis2trillionpixelsOneband: 4TerabytesMulti-wavelength: 10-100TerabytesTimedimension: fewPetabytesThedevelopmentofnewarchivalmethodsnewanalysistoolsHardwarerequirementsTrainingthenextgenerationNationalVirtualObservatory需求NationalVirtualObservatory对这样包含数亿个源的多波段数据库,天文学界显然要求访问,使用这些数据库,和分析这些数据的工具.数据库的开发、先进的图案识别、大尺度统计交叉相关、稀有天体以及时变的发现等机会,都是很显然的.NationalVirtualObservatory在天文学历史上第一次可以将成熟的数值模拟和统计上完备的多变量的数据进行有意义的比较.高速和广泛分布的网络的迅速进步意味着全球的天文界都可以分享这些科学努力的成果.NationalVirtualObservatory过去几年这些技术进步会合在一起，它将完全地改变现行的大部分观测天文学的工作方式。这些变化是不可避免和不可逆转的，他们对天文社会学本身将产生巨大的影响。大家都越来越意识到,在美国和美国以外所有地方对科学数据的获得、组织、分析以及传播对科学和技术的持续发展都是基本的要素。所有这些都表明,建立一种机构去有效地综合这些技术能力势在必行。因此就需要一个象国家虚拟天文台这样的实体来指导日益增多的天文数据的合理部署。NationalVirtualObservatory基于太字节的数据文档关联、波长遍及从伽玛射线波段到射电波段的成百万个天体的图像库、高度复杂数据的开发和分析工具、可访问带有千太字节存储容量的每秒运算次数达到万亿次的超级计算设备,以及在各主要天文中心间的极高速的互联，国家虚拟天文台将是独一无二的。NationalVirtualObservatory国家虚拟天文台使成千上万的研究者可以快速地访问各自的太字节大小的文档；使埋藏在巨大星表和图像数据库中的多种图样可视化；增加复杂分布结构和稀有现象的发现机会；鼓舞多个研究小组间的实时合作；允许进行大型的统计学研究，这些研究第一次将数据库的内容和复杂精密的数字模拟结果进行对比。NationalVirtualObservatory国家虚拟天文台会为我们理解许多决定宇宙演化的天体物理学过程提供便利。它会用更合算的投资建立新的、更好的科学。NationalVirtualObservatory国家虚拟天文台将作为一个协调性的和操作性的机构促进设备上的、协议上的和必要合作上的开发，去实现在未来几十年内天文学数据库上完全的科学潜能;

NationalVirtualObservatory国家虚拟天文台将成为“天文学发现”的一部发动机NationalVirtualObservatoryNVO:ANewInitiativeAnewinitiativeisneeded

toensureanevolutionary,cost-effectivetransitiontomaximizetheimpactoflargecurrentandfutureeffortstocreatethenecessarynewstandardsinthecommunitytodevelopthesoftwaretoolsneededtoensurethattheastronomicalcommunityhasthepropernetworkandhardwareinfrastructuretocarryoutitsscience

TheNationalVirtualObservatorycanbethecatalystofthe“NewAstronomy”

NationalVirtualObservatory结构NationalVirtualObservatoryWhatistheNVO?-ContentSourceCatalogs,

ImageDataQueryToolsSpecializedData:Spectroscopy,TimeSeries,PolarizationInformationArchives:Derived&legacydata:

NED,Simbad,ADS,etcAnalysis/DiscoveryTools:Visualization,StatisticsStandardsNationalVirtualObservatoryWhatistheNVO?-Components

InformationProviderse.g.ADS,NED,...DataProvidersSurveys,observatories,archives,SWrepositoriesServiceProvidersQueryengines,ComputeenginesNationalVirtualObservatoryConceptualArchitectureDataArchivesAnalysistoolsDiscoverytoolsUserGatewayNationalVirtualObservatoryNVOLayersBasicanalysistoolsQuerycapabilitiesStatisticaltoolsAbilitytorunusercode(API)BrowsingtoolsThreelayersbuiltontopofanother,tiedtogetherwithstandardsArchivesDatacontentInterconnectionsCrossidentificationsServicesDiscoverytoolsVisualizationAdvancedclassificationmethodsSupervised/unsupervisedlearningDataminingStandardsMeta-dataInterfacesbetweenarchivesCross-identificationstandardsArchive-toolinterfacesNationalVirtualObservatory职能NationalVirtualObservatory建立数据管道、存档和下载的公共系统，保证大量用户进行经济而高速的访问；NationalVirtualObservatory实现查询、关联、可视化和统计对比的常用软件工具的分布式开发;NationalVirtualObservatory协调建立高速的数据传输网络，为文档、每秒万亿次的超级计算设备和分布广泛的用户提供连接；NationalVirtualObservatory推动国内和国际的天文中心、主要学术机构间多产的合作，高科学产出,低基础设施的费用；NationalVirtualObservatory确保和其它学科的、面临类似课题的科学家以及私人机构间的交流和可能的合作NationalVirtualObservatory持续支持大众领域和教育领域的计划，利用独一无二的的资源,包括国家虚拟天文台的数据和软件，提供给这两个领域一个进入天文学和科学方法论的独一无二的窗口NationalVirtualObservatoryTheMissionoftheNVOTheNationalVirtualObservatoryshouldprovideseamlessintegrationofthedigitallyrepresented

multi-wavelengthskyenableefficientsimultaneousaccesstomulti-TerabytetoPetabytedatabasesdevelopandmaintaintoolstofindpatternsanddiscoveriescontainedwithinthelargedatabasesdevelopandmaintaintoolstoconfrontdatawithsophisticatednumericalsimulationsNationalVirtualObservatoryTheFlavor/RoleoftheNVOHighlyDistributedandDecentralizedMultiplePhases,builtontopofanotherEstablishstandards,meta-dataformatsIntegratemaincatalogsDevelopinitialqueryingtoolsDevelopcollaborationrequirements,

establishproceduretoimportnewcatalogsDevelopdistributedanalysisenvironmentDevelopadvancedvisualizationtoolsDevelopadvancedqueryingtoolsNationalVirtualObservatoryTheGoalsoftheNVOVirtualobservationsofthesky

inmultiplewavelengths,byintegratingall-skyMega-surveysQuerytheindividualobjectcatalogs

andimagedatabasesthousandsoftimesperdayJointqueriesofthecombinedcatalogs

thousandsoftimesperdayEnablediscoveryinthesearchivesvianewtools novelvisualizationtechniques,

supervised,unsupervisedlearning,

advancedclassificationtechniquesNationalVirtualObservatory设计NationalVirtualObservatory

设计理念国家虚拟天文台必须是进化的分布式的集成的提供非专业领域的服务适应全球需要提供一条通向未来的道路NationalVirtualObservatory国家虚拟天文台必须是进化的。自创建开始，进化的特性就将使其能快速回应不断变化的技术上和科学