Fix for [#35245] Freestyle getting stuck on view map creation + memory leaks.
authorTamito Kajiyama <rd6t-kjym@asahi-net.or.jp>
Sun, 19 May 2013 00:56:40 +0000 (00:56 +0000)
committerTamito Kajiyama <rd6t-kjym@asahi-net.or.jp>
Sun, 19 May 2013 00:56:40 +0000 (00:56 +0000)
commitb614b81a771df634ad08bafcf1a84b914fe6cb33
treeaa458df138e38eb9be564be78ba4ce40f343d7a3
parentd12a5d8d63282da6e1f554a50ebbe24649f7b350
Fix for [#35245] Freestyle getting stuck on view map creation + memory leaks.

There were two issues:

- Line visibility computations are very slow in the case of the provided .blend file, which gave
an impression that the rendering process got stuck.  The slowness can be explained by the present
data structures used for the line visibility computations, together with the specific mesh distribution
of the test scene.  At the moment Freestyle uses a regular grid in the 2D image coordinate system
to divide tris/quads into small groups in order to accelerate the line visibility computations.
On the other hand, the test scene is populated a big plane (made of one quad) and a moderately
detailed mesh object (22K tris).  The scale of the latter mesh is animated from nearly zero to
about 0.2 to make the object show up over time.  When the scale is nearly equal to zero, all the
tris concentrate in one grid cell, so essentially there is no performance gain from the grid data
structure optimized for speed.  It looks like a better grid data structure (possibly based on
adaptive grid refinement) is necessary to genuinely address the identified performance issue.  For now
the progress bar of Blender is employed to better inform users of the amount of work done in the line
visibility computations.

- A crash was caused by an excessive memory allocation request.  The X and Y dimensions of the grid
data structure are determined based on the average area of mesh faces in the given scene.  When the big
plane in the test scene is excluded from the rendering, the average area is almost zero (on the order
of 1e-5).  As a result of this extremely small average area, the X and Y dimensions were set to a very
large number, causing a fatal memory allocation error.  The present revision has introduced a hard
upper limit to the dimensions of the grid data structure to avoid this kind of numerical instability.
source/blender/freestyle/intern/system/RenderMonitor.h
source/blender/freestyle/intern/view_map/AverageAreaGridDensityProvider.cpp
source/blender/freestyle/intern/view_map/ViewMapBuilder.cpp