- 自动驾驶
- 自动生成图像描述
- 社交媒体的面部识别和标注
- 医学影像分析与诊断
- 家居安防系统
- 制造过程中的质量控制与缺陷识别
- 更多
计算机视觉数据集
为准备用于计算机视觉项目的机器学习模型和AI算法,数据不可或缺。从事CV项目的公司面临的一项挑战是,获得足够多的正确且高质量的数据来训练他们的算法。近年来,不同的公司已创建并发布一些预标注数据集。您可以为所能想到的每种类型场景找到开源数据集和可购买的数据集。 常见CV任务包括:- 目标检测
- 目标分割
- 多目标标注
- 图像分类
- 图像描述生成
- 人体姿态预估
- 逐帧视频分析
预标注计算机视觉数据集案例
训练CV算法是一个时间和数据密集型项目,甚至比训练其他类型的机器学习算法需要更多的时间和数据。虽然您可能习惯于处理成百上千的训练数据点,但这不足以为CV任务训练出高质量ML模型。如果没有足够的训练数据,您的CV模型将无法产出有用的结果。 由于难以获得足够的数据来训练CV机器学习模型,在网上查找细致且可靠的CV数据集已变得越来越普遍。 如果在网上找到符合您需求的CV数据集,请务必评估数据是否具有足够高的质量。试着问自己:- 此数据的来源是否可信?
- 能否发现并修复数据中的任何潜在错误?
- 数据是否完整且具代表性?
- 数据是否客观?还是存在明显的偏见?
1.ObjectNet——最适合无偏见数据
预标注CV数据集的主要问题之一是偏见。许多用于训练CV模型的预标注数据集的来源均使用从互联网上抓取的不完整图像,这会在最终数据集中产生偏见。 ObjectNet由MIT-IBM沃森人工智能实验室(MIT-IBM Watson AI Lab)的研究人员开发。研究人员构建的数据集与传统数据集不同。他们不是从现有来源挑选照片,而是将图片众包。该团队在“土耳其机器人”(Mechanical Turk)上雇佣了许多不同的人,并要求提供目标的照片,然后提交审查。 图像审查过程对整个数据集进行评估,以确保背景、光照、旋转和其他图像因素具有足够的多样性,从而限制图像偏见。ObjectNet数据集包含分布在313个对象类中的50,000张图像。 ObjectNet是一种不同类型的数据集。在某些方面,该数据集提供一个CV模型,其中的数据干净得近乎完美。在许多图像中,目标居中,背景整洁。但是,它也具有多样性,呈现出不常见的旋转、透视和视角。虽然这些图像不会让人们在寻找特定目标时感到困惑,但它们对于训练高质量的CV模型非常有用。2.澳鹏——国际项目的最佳选择
在澳鹏,我们拥有超过250个可授权的数据集,可用于各种不同类型的CV项目,包括音频、语音、视频、图像和文字。在我们的预标注数据集中,您将发现超过25,000张图像和涵盖80多种语言与方言的870万个单词 我们的预标注数据集旨在使您的CV模型训练高效和有效。每个数据集都经过精心设计,使您能够大规模训练高度精确的CV模型。在澳鹏,我们与全球超过100万名承包商的工作人员合作,这使我们能够为使用多种语言的国际项目创建最好的预标注数据集之一。 如果您查看我们的预标注数据集,但并未找到适合您需求的数据集,我们也可提供数据采集服务,为您的特定用例创建自定义数据集。3.VisualData——目标识别的最佳选择
如果您的CV模型旨在识别目标,并且您需要预标注图像数据,那么VisualData是为您的用例寻找正确数据集的最佳选择。VisualData监控大学实验室、社交媒体和许多其他来源,以跟踪新发布的开源数据集。 VisualData提供了可供使用的开源数据集的可搜索存档。您可以按发布日期、主题或通过关键字搜索对数据集进行排序,以找到CV用例的正确图像。4.Graviti——共享和查找数据的最佳选择
Graviti已建立一个开放的数据集社区,其中,各种企业、机构、研究团队和个人开发人员共享、访问和管理大型数据集。Graviti拥有1000多个高质量的开源数据集,可用于50多种应用场景和10多种数据格式,为数据搜索者提供了不断扩展的数据集选择。5.ImageNet——大型数据集的最佳选择
ImageNet是市场上最大、最受欢迎的开源数据集之一。ImageNet拥有超过1400万张已手动标注的图像。数据库按WordNet层次结构予以组织,对象级标注通过边界框完成。6.Roboflow——使用不同文件格式的最佳选择
Roboflow旨在支持开发人员创建自己的计算机视觉机器学习模型,而无论他们的技能或团队规模如何。Roboflow通过帮助您获得正确的数据并准确地标注数据,以简化CV模型的构建过程。 作为简化过程的一部分,Roboflow还具有可用于训练CV模型的开源数据集。这些数据集涵盖各种领域,包括动物、棋类游戏、自动驾驶汽车、医疗、热图像和空中无人机图像。Roboflow还提供一些由合成数据组成的预标注数据集。 Roboflow的优势在于它为用户提供了以多种不同格式下载图像的能力。这些格式包括:- VOC XML
- COCO JSON
- YOLOv3平面文本文件
- TFRecords
7.GitHub和Kaggle——最新数据集或模糊数据集的最佳选择
如果您正在处理许多不同的CV项目,并且将需要多个数据集,那么您可以使用的最佳来源之一是社区构建和共享平台,如GitHub和Kaggle。通过加入这些免费的社区,您可以开始构建您的知识库,了解存在哪些数据集,以及哪些数据集对您的独特项目最有帮助。 花点时间输入正确的关键字,您就可以在GitHub和Kaggle等网站上找到一些最新和最模糊的数据集。您还可以与其他数据科学家和机器学习工程师建立网络,他们可能会帮助您找到所需的数据集。8.Kinetics——人物交互视频的最佳选择
Kinetics提供一个开源数据集,其中共包含650,000个视频剪辑,涵盖700个人类动作类型。该数据集包括人与物互动,人与人互动。数据集可以细分为700个视频剪辑的部分。数据集中的每个视频剪辑均有标注,且持续大约10秒。Kinetics数据集是一个高质量的数据集,可用于许多不同的CV用例。9.IMDB-WIKI——识别性别和年龄的最佳选择
如果您想训练识别一个人的年龄或性别的CV模型,您就需要使用IMDB-WIKI开源数据集。您可以在许多不同的网站(包括GitHub)上找到此数据集。 IMDB-WIKI数据集共有523,051张图片。这些图像均从维基百科和IMDB中提取。每张图像均有标注,并包括图像中人物的性别、年龄和姓名。这使得该开源数据集成为最大的可公开使用的人脸数据集。10.Berkeley DeepDrive——自动驾驶车辆CV任务的最佳选择
CV技术最令人兴奋的实际应用之一是自动驾驶。但是,在这些车辆上路之前,它们均需要数小时的训练。为使这些CV模型的训练更易获取且公平,加州大学伯克利分校创建了拥有超过10万个视频序列的Berkeley DeepDrive数据集。该数据集为开源数据集,可供公众使用。 Berkeley DeepDrive数据集包括各种标注,包括目标边界框、驾驶区域、图像级标记、地面标记和全帧实例分割。预标注CV数据集给企业带来的好处
预标注计算机视觉数据集的兴起使企业能够更容易获取训练CV模型所需的数据。CV模型的应用范围很广,许多组织正在研究如何应用它来解决问题。随着更多的企业意识到CV模型的强大功能,越来越多的企业将寻找数据来训练他们的CV模型。如果没有预标注数据集,许多企业将没有时间或资源创建CV所需的模型。 预标注数据集可使企业将其资源用于构建和训练CV模型,而不是采集数据。而且,可用的开源数据集越多,数据质量就越高。随着这些数据集质量的提高,用于解决整个组织中问题的CV模型也将得到改善。计算机视觉数据集常见问题解答
随着越来越多的数据集可以免费在线使用,务必谨慎对待项目中使用的数据集,并了解潜在数据集相对于其他数据集的优势。这些常见问题有助于引导您找到CV项目的正确数据集。我可以从何处获得正确的数据?
谈及“正确的数据”,有许多因素需要考虑。您需要数据有正确的:- 数据类型(图像、视频、音频)
- 文件格式
- 数据点的数量
- 数据类型(无偏见、高质量、准确标注)
我需要多少数据?
虽然您会经常听到这样的指导原则,即数据越多越好,但当数据集中有太多数据时,就会有一个临界值。那么,正确的数据量是多少? 没有一个数字可表示正确的数据量,但范围可以帮助您为项目找到正确的数据量。大多数CV模型需要在数千到数百万个数据点上进行训练。CV模型或模式识别场景越复杂,数据集中所需的数据点就越多。如何确保计算机视觉数据集的高质量?
在本文中,我们已提到高质量的数据集。但是,是什么使得数据质量高而不是低? 高质量的数据与数据的标注方式和标注准确率有关。虽然一些数据标注已经实现自动化,但是最佳、质量最高的数据标注通过人工标注和自动化相结合来完成。当您使用高质量的数据来训练您的CV模型时,您将拥有一个更好的功能模型,可以更准确地预测和观察。 CV模型数据集质量的另一个考虑因素是集合中包含的数据点的范围。例如,您希望数据集中的图像覆盖CV模型可能遇到的所有实际场景。如果您的训练数据缺乏多样性,或者由于缺乏数据而存在偏见,那么您的CV模型也是如此。准确标注的高质量数据对于创建成功的CV模型颇有帮助。如何避免计算机视觉数据集中的偏见?
在寻找正确的数据集时,人们面临的另一个常见问题是如何评估数据集的偏见。训练数据偏见会以多种不同的方式对CV模型的准确性产生负面影响。 虽然偏见通常被认为是种族主义或性别歧视,但当涉及到数据时,这种概念更为广泛。偏见是指数据集中缺少的任何内容。数据集中最常见的一种偏见形式——数据集不能准确地表示CV模型工作的真实环境。重要的是,您的数据集要尽可能地代表您的模型所处的真实世界场景。创建训练数据集时,必须考虑以下因素:- 季节性倾向
- 地理差异
- 图像视角
- 背景