Motion tracking: automatic keyframe selection
authorSergey Sharybin <sergey.vfx@gmail.com>
Thu, 30 May 2013 09:03:49 +0000 (09:03 +0000)
committerSergey Sharybin <sergey.vfx@gmail.com>
Thu, 30 May 2013 09:03:49 +0000 (09:03 +0000)
commitcf5e979fb4cef064f60d901c89c2a8a2f039d410
tree5d7f4d9937808ab42d1abb78cf9bb769c3efc574
parent9fb3d3e0322cb6692f822ee374de1ec03ab70454
Motion tracking: automatic keyframe selection

Implements an automatic keyframe selection algorithm which uses
couple of approaches to find out best keyframes candidates:

- First, slightly modifier Pollefeys's criteria is used, which
  limits correspondence ration from 80% to 100%. This allows to
  reject keyframe candidate early without doing heavy math in
  cases there're not much common features with first keyframe.

- Second step is based on Geometric Robust Information Criteria
  (aka GRIC), which checks whether features motion between
  candidate keyframes is better defined by homography or
  fundamental matrices.

  To be a good keyframe candidate, fundamental matrix need to
  define motion better than homography (in this case F-GRIC will
  be smaller than H-GRIC).

  This two criteria are well described in this paper:
  http://www.cs.ait.ac.th/~mdailey/papers/Tahir-KeyFrame.pdf

- Final step is based on estimating reconstruction error of
  a full-scene solution using candidate keyframes. This part
  is based on the following paper:

  ftp://ftp.tnt.uni-hannover.de/pub/papers/2004/ECCV2004-TTHBAW.pdf

  This step requires reconstruction using candidate keyframes
  and obtaining covariance matrix of 3D points positions.
  Reconstruction was done pretty much straightforward using
  other simple pipeline routines, and for covariance estimation
  pseudo-inverse of Hessian is used, which is in this case
  (J^T * J)+, where + denotes pseudo-inverse.

  Jacobian matrix is estimating using Ceres evaluate API.

  This is also crucial to get rid of possible gauge ambiguity,
  which is in our case made by zero-ing 7 (by gauge freedoms
  number) eigen values in pseudo-inverse.

  There're still room for improving and optimizing the code,
  but we need some point to start with anyway :)

  Thanks to Keir Mierle and Sameer Agarwal who assisted a lot
  to make this feature working.
extern/libmv/CMakeLists.txt
extern/libmv/files.txt
extern/libmv/libmv-capi.cc
extern/libmv/libmv-capi.h
extern/libmv/libmv/simple_pipeline/keyframe_selection.cc [new file with mode: 0644]
extern/libmv/libmv/simple_pipeline/keyframe_selection.h [new file with mode: 0644]
release/scripts/startup/bl_ui/space_clip.py
source/blender/blenkernel/intern/tracking.c
source/blender/makesdna/DNA_tracking_types.h
source/blender/makesrna/intern/rna_tracking.c