导读:70多个网站让你免费获取大数据存储库,ClueWeb09用来支持信息检索和相关人类语言技术研究的资料库。它包含了从2009年1月到2月间收集的大约10亿个网页,包含10种语言。资料库被若干TREC会议的追踪检测使用。
你是否需要大量的数据来检验你的APP性能?最简单的方法是从网上免费数据存储库下载数据样本。但这种方法最大的缺点是数据很少有独特的内容并且不一定能达到预期的结果。以下是70多家可以获得免费大数据存储库的网站。
Wikipedia:Database:向感兴趣的用户提供所有可用的内容的免费副本。可以得到多种语言的数据。内容连同图片可以下载。
Commoncrawl建立并维护一个所有人都可以访问的开放的网络。这个数据保存在亚马逊s3bucket中,请求者可能花费一些钱来访问它。
Commoncrawl:建立并维护一个开放的网络,向所有人开放。
EDRMFileFormatsDataSet:由381个文件夹200种文件格式组成。
ApacheMahoutTLP项目创建一个可扩展的机器学习算法。Mahout有许多免费的和付费的语料库语料。
EDRMEnronEmailDataSetv2由安然公司邮件信息和附件组成,存在两组可下载的压缩文件中:XML和PST。
ClueWeb09用来支持信息检索和相关人类语言技术研究的资料库。它包含了从2009年1月到2月间收集的大约10亿个网页,包含10种语言。资料库被若干TREC会议的追踪检测使用。
DMOZ–最大的、最全面的人工编辑的开放式网站目录。它收集了不同类型的网站链接。Dmoz是互联网搜索引擎的一个主要来源。
theinfo.org–这是一个大数据集网站,在这里学者、设计师、艺术家等可以交流技巧和窍门,一起开发和共享工具,并开始整合他们独有的项目。
ProjectGutenberg提供超过36000免费电子书的下载,可以下载到个人电脑、Kindle,Android,iOSor或其他便携式设备。
Millionsongdataset:与tracks和艺术家有关的数据
AWS(AmazonWebServices)PublicDataSets:提供了可以无缝融入AWS(亚马逊网络服务)云应用的公共数据集的集中存储库。
BigMLbiglistofpublicdatasources.
Bioassaydata:研究文章“生物测定数据的虚拟筛选”,由AmandaSchierz编写,有21个生物测定数据集(活性/非生理活性成分),可以下载。
Bitly1.usa.govdata:匿名点击政府链接
CanadaOpenData:有许多政府和地理空间的数据集的试点项目
CanadaOpenData:许多政府和地理空间数据集的试点项目。
CausalityWorkbench:数据存储库
CorralBigDatarepository:在德克萨斯高级计算中心,提供以数据为中心的技术。
DataSourceHandbook:公开数据指南
Datacatalogs.org:来自美国、欧盟、加拿大、CKAN以及其他的公开政府数据
Data.gov.uk:英国的公共可用数据(Londondatastore也是)
Data.gov/Education:对于教育数据资源的主要指南,包括高价值的数据集、数据可视化、课堂资源、创建自公开数据的应用程序以及其他。
DataMarket:可视化的世界经济、社会、自然和工业,拥有来自联合国,世界银行,欧盟统计局和其他重要数据提供者的一亿时间序列。
Datamob:可以很好利用的公开数据
DataSF.org:可向City&CountyofSanFrancisco,CA.购买的数据集信息交流中心
DataFerrett:一个用来访问和使用TheDataWeb的数据挖掘工具,许多网上美国政务数据集的集合。
EconData:大量经济学的时间序列,由许多美国政府机构编制。
EnronEmailDataset:来自大约150个用户的数据,这些用户大多数是安然公司高级管理人员
EuropeanaData:包含2000万文字,图片,视频开放的元数据,以及由欧洲数位图书馆收集的声音,对于欧洲文化遗产内容值得信赖的、全面的资源。
EuropeanaData:
FEDSTATS:一个美国统计资料的综合资源以及更多
FIMIrepositoryforfrequentitemsetmining:工具和数据集
FinancialDataFinderatOSU:大型财务数据集目录
GDELT:关于事件、位置和音调的全球数据,被英国卫报形容为“生命、宇宙和一切的大数据历史”
GEO(GEOGeneExpressionOmnibus):一个支持MIAME兼容数据提交的基因表达/分子丰度信息库,一个精心策划的网上资源,用于基因表达数据的浏览,查询和检索。
GeoDaCenter:地理和空间数据
Googlengramsdatasets:来自数Google扫描的百万书籍文本
GrainMarketResearch:财务数据,包括股票、期货等
HilaryMasonresearch-qualityBigDatasets收集许多文本和图片数据集
HitCompaniesDatasets:HitCompanies随机取样的1万个英国公司全面的数据,采用人工智能/机器学习进行自动更新。
ICWSM-2009dataset:包含2008年8月1日到10月1日之间的4400万个博文
Infochimps:一个数据开放的目录和集合,允许分享、出售和下载关于任何内容的数据。
InvestorLinks:包含财物数据
KDDCupcenter:数据、工作表和结果
KevinChailistofdatasets:文本、SNA和其他领域
KONECT:科布伦茨网络收集,拥有大量各种类型的网络数据集,以便在网络挖掘领域进行研究。
LinkingOpenData工程,免费向所有人提供数据
MITCancerGenomicsgeneexpressiondatasetsandpublications:来自麻省理工WhiteheadCenter用于基因组研究
MLData:欧盟Pascal2网络数据储存库
NASDAQDataStore:提供市场数据
NationalGovernmentStatisticalWebSites:来自大约70个网站的数据、报告、统计年鉴、新闻和其他,包括非洲、欧洲、亚洲和拉丁美洲的国家。
NationalSpaceScienceDataCenter(NSSDC):美国国家航空航天局的数据集,包含行星探索、空间和太阳物理学、生命科学、天体物理学以及其他方面。
OpenDataCensus:评估世界各地的开放数据的状态。
OpenDatafromSocrata:允许访问超过10000个数据集,包括商业、教育、政府和娱乐
OpenSourceSports:大量运动数据库,包括棒球、足球、篮球和曲棍球
PeterSkomorochdatasetBookmarksPubGene(TM)GeneDatabaseandTools:基因组有关的出版物数据库
Quandl,acollaborativelycuratedportaltomillionsoffinancialandeconomictime-seriesdatasets.
qunb:一个用来发现和可视化的数据资料的平台
RobertSchillerdata:住房建筑、股票市场和更多的来自于他的书IrrationalExuberance的数据
SMD:StanfordMicroarrayDatabase,存储来自微阵列实验的原始的和标准的数据
JerrySmithdatasetcollection:财经、政府、机器学习、科学和其他数据
SourceForge.netResearchData:包含大约10万个项目和超过100万注册用户的活动的历史和现状的统计数据的项目管理网站。
StatLib,卡内基梅隆大学数据档案
STATOODatasetspart1和STATOODatasetspart2
TimeSeriesDataLibrary
VisualAnalyticsBenchmarkRepository.
UCIKDDDatabaseRepository:适用于机器学习和知识发现研究的大数据集
UCIMachineLearningRepository.
UCRTimeSeriesDataArchive:提供数据集、论文、链接和代码
UnitedStatesCensusBureau.
Wikiposit:一个(虚拟的)融合了来自许多不同网站的数据(大多数是金融的),允许用户合并来自不同来源的数据
WolframAlphadiseaseandpatientleveldat.
YahooSandboxdatasets:语言、图表、评级、广告与营销、竞赛
YelpAcademicDataset:30家大学的250个最接近商业的所有数据和评论,为学生和学者来探讨和研究
【版权提示】观研报告网倡导尊重与保护知识产权。未经许可,任何人不得复制、转载、或以其他方式使用本网站的内容。如发现本站文章存在版权问题,烦请提供版权疑问、身份证明、版权证明、联系方式等发邮件至kf@chinabaogao.com,我们将及时沟通与处理。