数据迁移归档解决方案什么是数据归档迁移?•归档•分类:数据库、邮件以及文件•目的:长期保留以备查•同备份的区别ctrl+Cvs.ctrl+X•迁移•路径:在线-近线-离线•方式:支持自动或手动回迁•实现:HSM或备份归档提高存储空间、降低存储成本!数据迁移归档解决方案需解决问题:•1、实现分级存储管理,包括:在线存储管理,近线存储管理,离线存储管理;•2、具有迁移、归档、回迁等功能;•3、具有磁盘空间释放和磁带整和功能;•4、当文件迁移到磁带(近线存储设备)上,磁盘应保留文件识别信息,以便查询、检索、回迁文件;•5、对离线设备即脱机磁带上的数据仍能了解它存放的内容和数量,需要时随时可转为二级存储或一级存储设备上的资料;•6、迁移数据的格式应满足通用性,提供脱离本软件读取归档数据的解决方案;•7、能够满足从MB到GB大文件的归档和回迁能力;数据迁移归档解决方案需解决问题(续):•8、能够保证迁移过程中数据直接通过SAN通路从磁盘迁移到磁带库上,只有命令流才通过SAN管理服务器--即实现“脱离服务器的迁移和回迁”;•9、支持主流的磁带机和自动磁带库;•10、灵活的归档策略,可以根据访问文件时间、文件系统空间使用率、文件使用频率、文件名、文件类型等条件进行归档;•11、提供与数据库管理系统的接口;•12、提供集成化、图形化的管理工具,可方便地进行安装、配置和管理;•13、提供管理监控的API编程接口和商用监控管理软件的可管理接口。数据迁移软件分类•HSM迁移软件•PetaServe、StorNextSAN、Amass、MicrosoftRemoteStorage、OTGDiskXtender及VeritasHSM•易于与SAN文件共享软件不兼容•管理策略粗放•归档迁移软件•针对IT行业的专业备份软件•CABrightStore、VeritasNBU、IBMTSM、LegatoNetWorker,BakBoneNetVault•针对媒体行业的AV归档迁移软件•ManagedStorageDIVA、SGLFlashnet、AAMAvalonHSM迁移与归档迁移软件对比HSM迁移软件归档迁移软件迁移数据类型文件卷(Volume-Level)文件(File-Level)迁移管理服务器的设置是是迁移服务器数量多台集群单台管理控制与迁移路径合而为一相分离迁移策略水位管理(WaterMark)/最后访问时间自定优先级别设置不能能SAN文件共享软件的兼容不兼容兼容对近线存储设备的访问透明不透明SAN文件共享•VERITASClusterFileSystem•主机共享同一存储空间或同一个文件•要求主机操作系统相同,集群软件版本相同•支持Solaris和HP-UX•ADICStorNextFileSystem•ADIC掌握所有技术和知识产权,具有广泛的发展潜力•StorNextFS是真正的64位文件系统,可以保证管理巨大的磁盘空间和文件数量•不同类型的主机可以同时以FCDirectI/O方式访问数据,中间不需要任何协议转换。•IBMSANergy•多台主机透明共享SAN上的单个磁盘卷•支持WindowsNT,Windows2000,MacOS,Irix,Solaris,AIX,Tru64,RedHatLinux以及DG/UX•RorkeDataImageSAN2.1•专门针对广电行业音视频(AV)SAN网络存储应用而研发•兼容常见的非编软件Dayang,Sobey,AllVision,AVID,Matrox,Pinnacle,Media100,Incite,AJA,Decklink,FinalCutPro•支持Windows、MacOSX以及Linux宝利信通数据共享解决方案DevelopedforUSGovernmentStorNextFileSystem:LockheedMartinStorNextStorageManager(Archive):RaytheonForUSGovernmentHighperformancedigitalImageworkflowandarchivemanagementAbout12yearsago……QUANTUMChinaCustomerStorNextFileSystemBusinessImpactsQuantum’sSolutionSharingFilesAccessFeaturesMovement/Sharingoflargefiles=StorageandfilemovementissuesSGIIRIXLinuxRH/SuSeSolaris/Aix/HP-UXMACOSBeforeStorNextFileSystemEABCDMicrosoftWindowsXP/2K/2003/VISAMultipleCopiesDataSharinginmixedOSEnv.StorageIslandStorNextFileSystem(SNFS)SolutionStorNext:HighPerformanceWorkflow•Finishprojectsfaster•Enablescollaborationfromacquisitiontoplayout•Reducestoragecostsandcomplexity•Singlenamespace,multi-tierstoragearchive•Preservechoices•SupportsmixedOSMACOSMicrosoftWindowsLinuxUnixSGIIRIXAfterStorNextFileSystemAADACDBCEBACBBDAEDAEDFinishProjectsFasterStorNext:AcceleratesWorkflows•Createsahighspeed,sharedstoragepool•Consolidates“IslandsofStorage”toreducecosts•Scalablethroughput•Tunablebasedondatatypes•Enhancescollaboration•Makesfilesaccessibletoallhoststocutdelays•Enablesparallelprocessingtosavetime12HrsTotalFileFileFileDistributionWindowsProcessingMacOSIngestUNIXProcessingLinuxFileFileDelayDelayDelayDelayDelayFinishProjectsFasterStorNext:AcceleratesWorkflows•Createsahighspeed,sharedstoragepool•Consolidates“IslandsofStorage”toreducecosts•Scalablethroughput•Tunablebasedondatatypes•Enhancescollaboration•Makesfilesaccessibletoallhoststocutdelays•Enablesparallelprocessingtosavetime“WithStorNext,jobsthatusedtotake10-12hoursnowfinishinlessthanthree…”LucTrudel,DigitalGlobeDirectorofITOperationsMacSANStorNextProcessFlow3HrsTotalFileUNIXWindowsSharedProcessingRetain/DistributeHighSpeedIngestFileLinuxFinishProjectsFasterStorNextArchitecture–Sharedfilesystem•Structureforstoringdata•Maintainsfiles/foldersbuiltbyusers•Determineswheredataiswritten•Managesfilepermissions•Manageslockingandconcurrentaccesstofilesorportionsoffiles•Runsonservers•Interfacetostorage•UsesdirectconnectionsviaFCoriSCSI•ConfiguresaccesspermissionsforuseinmixedOSenvironmentsMacUNIXFileWindowsMetadataControllerFinishProjectsFasterStorNextArchitecture–Sharedfilesystem•MetadataController(MDC)•Trafficcopformanagingaccess•Tellsserverswhereis•Negotiatesconcurrentaccess•Makessureserversdonotaccessstaleinformation•Optionalfailoverfunctionality•CommunicatesoverLAN•ServerspassI/OrequeststoMDC•MDCtellsserverwheretoread/write•DatapathisthendirectlyacrossSAN•EliminatesbottlenecksfoundinNASMacUNIXLinuxFileWindowsMetadataControllerMetadataRequestviaLANStorNextFileSystemDataFlowFileSystem:Providesclient(svr)accesstodataLANSegmentUserCommunityClients(Svr)MDCFC/iSCSIDiskStorageUserDataSANFC/iSCSIDiskStorageMetadata/JournalFinishProjectsFasterStorNextArchitecture–MDCFailover•StandbyMDCassumesoperationsifprimaryMDCunavailable•Systemdown•Lossofnetworkconnectivity•Systeminpartiallyavailablestate•Transfersalloperations•FileSystem•StorageManager•STONITHguaranteesfailover•ShootTheOtherNodeInTheHead•FullshutdownandrestartofMDC•Onlyreliablecross-platformmethodguaranteedtoprevent“splitbrain”MacLinuxFileWindowsMetadataControllerMetadataRequestviaLANMetadataControllerStandby!StorNextStorageManagerBasicConceptsaboutdatamigrationandarchivingQuantum’sSolutionIntelligentArchivingStorNext:ReducesStorageCostsandComplexity•Createsamulti-tierarchive•Storesfilesonlowercoststorageovertime•Reducesamountofhighenddiskneeded•Providedataaccessforreuse,revenuegeneration•Movesdataalmostanywhere•Performanced