Fix T62792: AMD glitch when clipping region in edit mode.
[blender.git] / source / blender / draw / modes / shaders / edit_mesh_overlay_geom.glsl
1
2 layout(lines) in;
3 layout(triangle_strip, max_vertices = 4) out;
4
5 uniform vec2 viewportSize;
6 uniform vec2 viewportSizeInv;
7
8 in vec4 finalColor[2];
9 in vec4 finalColorOuter[2];
10 in int selectOveride[2];
11
12 flat out vec4 finalColorOuter_f;
13 out vec4 finalColor_f;
14 noperspective out float edgeCoord_f;
15
16 void do_vertex(const int i, vec4 pos, float coord, vec2 offset)
17 {
18   finalColor_f = (selectOveride[0] == 0) ? finalColor[i] : finalColor[0];
19   edgeCoord_f = coord;
20   gl_Position = pos;
21   /* Multiply offset by 2 because gl_Position range is [-1..1]. */
22   gl_Position.xy += offset * 2.0 * pos.w;
23   EmitVertex();
24 }
25
26 void main()
27 {
28   vec2 ss_pos[2];
29
30   /* Clip line against near plane to avoid deformed lines. */
31   vec4 pos0 = gl_in[0].gl_Position;
32   vec4 pos1 = gl_in[1].gl_Position;
33   vec2 pz_ndc = vec2(pos0.z / pos0.w, pos1.z / pos1.w);
34   bvec2 clipped = lessThan(pz_ndc, vec2(-1.0));
35   if (all(clipped)) {
36     /* Totally clipped. */
37     return;
38   }
39
40   vec4 pos01 = pos0 - pos1;
41   float ofs = abs((pz_ndc.y + 1.0) / (pz_ndc.x - pz_ndc.y));
42   if (clipped.y) {
43     pos1 += pos01 * ofs;
44   }
45   else if (clipped.x) {
46     pos0 -= pos01 * (1.0 - ofs);
47   }
48
49   ss_pos[0] = pos0.xy / pos0.w;
50   ss_pos[1] = pos1.xy / pos1.w;
51
52   vec2 line = ss_pos[0] - ss_pos[1];
53   line = abs(line) * viewportSize;
54
55   finalColorOuter_f = finalColorOuter[0];
56   float half_size = sizeEdge;
57   /* Enlarge edge for flag display. */
58   half_size += (finalColorOuter_f.a > 0.0) ? max(sizeEdge, 1.0) : 0.0;
59
60 #ifdef USE_SMOOTH_WIRE
61   /* Add 1 px for AA */
62   half_size += 0.5;
63 #endif
64
65   vec3 edge_ofs = half_size * viewportSizeInv.xyy * vec3(1.0, 1.0, 0.0);
66
67   bool horizontal = line.x > line.y;
68   edge_ofs = (horizontal) ? edge_ofs.zyz : edge_ofs.xzz;
69
70 #ifdef USE_WORLD_CLIP_PLANES
71   world_clip_planes_set_clip_distance(gl_in[0].gl_ClipDistance);
72 #endif
73   do_vertex(0, pos0, half_size, edge_ofs.xy);
74   do_vertex(0, pos0, -half_size, -edge_ofs.xy);
75
76 #ifdef USE_WORLD_CLIP_PLANES
77   world_clip_planes_set_clip_distance(gl_in[1].gl_ClipDistance);
78 #endif
79   do_vertex(1, pos1, half_size, edge_ofs.xy);
80   do_vertex(1, pos1, -half_size, -edge_ofs.xy);
81
82   EndPrimitive();
83 }